Nazywany „Poupou”, stał się symbolem „wiecznie drugiego” sportowca. W latach 1962–1976 ośmiokrotnie stawał na podium klasyfikacji końcowej Tour de France, ale nigdy nie zwyciężył ani nie był liderem wyścigu. W klasyfikacji generalnej był między innymi drugi w latach 1964, 1965 i 1974 oraz trzeci w latach 1962, 1966, 1969, 1972 i 1976 (miał wtedy 40 lat). Łącznie wygrał siedem etapów TdF, w latach 1967, 1972 i 1975 wygrywając przy tym klasyfikację drużynową. Do historii kolarstwa przeszedł pojedynek Poulidora z Jakiem Anquetilem na etapie górskim Tour de France 1964, na szczycie Puy de Dôme; spóźniony atak Poulidora pozwolił ostatecznie triumfować w Paryżu Anquetilowi. Czterokrotnie startował w Vuelta a España, przy czym zwyciężył w klasyfikacji generalnej w 1964 roku, a rok później był drugi. Wygrał łącznie cztery etapy, a w 1965 roku był najlepszy w klasyfikacji drużynowej.
Startował także w kolarstwie przełajowym, ale bez większych sukcesów. Nigdy nie wystąpił na igrzyskach olimpijskich.