3 апреля 1973 года предложил конституционную реформу, которая бы сокращала срок полномочий президента республики с 7 лет (септеннат, сохранившийся от Третьей республики) до 5 лет. Тогда это предложение не было осуществлено (его отложили в октябре 1973 года, а приняли лишь в 2000 году при Шираке), однако по трагической иронии судьбы правление Помпиду было досрочно прервано его кончиной как раз незадолго до 5-летия его вступления в должность.
В конце 1973 года заболел редкой формой лейкемии, называемой «болезнь Вальденстрема». Он подолгу не появлялся на публике, а когда появлялся, то было заметно, что его лицо стало одутловатым, а фигура постоянно полнеет — следствие принимаемых при лечении онкологических заболеваний кортикостероидов. Официально Елисейский дворец заявлял, что у президента республики «простой грипп» и «перемежающийся грипп» (grippe simple, grippe intermittente). Во время последнего, третьего визита в СССР — поездки 11—13 марта 1974 года в Пицунду и встреч с Брежневым, — Помпиду испытывал настолько тяжёлые кровотечения, что едва мог проводить переговоры. Во время смертельной болезни Помпиду вёл себя очень мужественно. Почувствовав вскоре после возвращения из Абхазии приближение смерти, он переехал из Елисейского дворца в свою частную квартиру на острове Сен-Луи (набережная Бетюн, 24), где когда-то его семью навещал де Голль с супругой. В 21 час 2 апреля 1974 года президент скончался от острого заражения крови, возникшего на фоне основного заболевания.
О кончине президента республики мэром IV округа Парижа был составлен следующий акт:
Париж, 4-й округ, D/1974/0277. Второго апреля тысяча девятьсот семьдесят четвёртого года, в двадцать один час скончался в своём доме, набережная Бетюн, 24 — Жорж Жан Раймон Помпиду, родившийся в Монбудифе (Канталь) 5 июля 1911 года, президент Французской республики, кавалер большого креста Почётного легиона, сын Леона Помпиду и Марии-Луизы Шаваньяк, ныне покойных супругов, муж Клод-Жаклин Каур. Составлено 3 апреля 1974 года, в 9 часов, по заявлению Поля Перрюшо, генерального инспектора Общества, 59-ти лет, улица Гранж-Бательер, дом 13, который, получив сей акт для прочтения и прочитав его, подписал его вместе с Нами, Жоржем Теольером, офицером Почётного легиона, мэром IV округа города Парижа. — [Следуют надлежащие подписи]
Так как его болезнь держалась в секрете (последнее официальное известие, всего за неделю до конца, гласило о «лёгком, но болезненном сосудистом заболевании»), известие о смерти Жоржа Помпиду стало потрясением для всего мира. По нему был объявлен национальный траур, на мессе по президенту в Париже присутствовали представители всех крупных держав, включая Ричарда Никсона. СССР на похоронах Помпиду представлял Председатель Президиума Верховного Совета СССР Николай Викторович Подгорный. Временно и.о. президента вновь стал председатель Сената Ален Поэр, не баллотировавшийся однако на предстоящих выборах президента. По результатам прошедших выборов, Президентом Республики был избран Валери Жискар д’Эстен, с небольшим отрывом (400 тысяч голосов) обошедший во втором туре социалиста Франсуа Миттерана (выигравшего первый тур). В обмен на поддержку голлистов Жискар назначил премьер-министром лидера UDR Жака Ширака; Ширак выдвинулся именно под началом Помпиду, который прозвал его «бульдозером».
После смерти Жоржа Помпиду Франсуа Миттеран резко критиковал правительство, которое скрывало состояние здоровья президента до самой его смерти, и требовал совершенной гласности в этой сфере. Однако впоследствии сам Миттеран, ставший президентом, на протяжении более чем десятилетия скрывал своё раковое заболевание.