Aktywną działalność polityczną podjął wraz z powrotem Charles’a de Gaulle’a do władzy i objęciem przez niego urzędu premiera. W 1958 powołany na dyrektora jego gabinetu. W latach 1959–1962 wchodził w skład nowo utworzonej Rady Konstytucyjnej. Działał w kolejnych ugrupowaniach ruchu gaullistowskiego, w tym w Unii Demokratów na rzecz Republiki, stając się w połowie lat 60. liderem tego środowiska politycznego. Od kwietnia 1962 do lipca 1968 w okresie prezydentury generała sprawował urząd premiera, kierując czterema kolejnymi gabinetami. Końcówka jego urzędowania przypadła na okres protestów społecznych zapoczątkowanych w maju 1968.
W międzyczasie od marca do maja 1967 wykonywał mandat deputowanego do Zgromadzenia Narodowego III kadencji. W niższej izbie francuskiego parlamentu pracował także po odejściu z rządu od lipca 1968 do czerwca 1969 jako poseł IV kadencji. W czerwcu 1969 z ramienia gaullistów wystartował w wyborach prezydenckich, które rozpisano po dymisji Charles’a de Gaulle’a z kwietnia tegoż roku. W pierwszej turze Georges Pompidou zajął pierwsze miejsce z wynikiem 44,5% głosów. W drugiej turze otrzymał 58,2% głosów, pokonując przewodniczącego Senatu Alaina Pohera i wygrywając tym samym wybory.