Podczas Australian Open z 2006 roku Mathieu awansował do IV rundy, ponosząc porażkę ze Sébastienem Grosjeanem. W maju, na kortach Rolanda Garrosa Francuz w pojedynku III rundy stoczył blisko pięciogodzinny mecz z Rafaelem Nadalem zakończony wynikiem 5:7, 6:4, 6:4, 6:4 dla Hiszpana. Po spotkaniu stacje telewizyjne, jak i komentatorzy stwierdzili, że był to klasyk tenisa.
Trzecie singlowe zwycięstwo Mathieu wywalczył w kwietniu 2007 roku w Casablance. Finałowy pojedynek wygrał z Albertem Montañésem. W sierpniu Francuz triumfował w Gstaad, pokonując w spotkaniu o tytuł Andreasa Seppiego. W tym samym sezonie Mathieu doszedł ponadto do finału w Moskwie oraz IV rundy Wimbledonu. Rok zakończył na 25. miejscu w zestawieniu ATP.
Na początku 2008 roku Mathieu osiągnął IV rundę Australian Open. Dnia 7 kwietnia tego roku został sklasyfikowany na najwyższej pozycji w swojej karierze, na 12. miejscu. W czerwcu dotarł do IV rundy Rolanda Garrosa. Podczas igrzysk olimpijskich w Pekinie awansował do ćwierćfinału, eliminując m.in. Nikołaja Dawydienkę. Spotkanie o awans do półfinału zakończyło się porażką Francuza z Fernando Gonzálezem. W połowie września Mathieu wygrał swój pierwszy deblowy turniej, w Bukareszcie. Wspólnie z Nicolasem Devilderem pokonali w finale Mariusza Fyrstenberga i Marcina Matkowskiego.