1 lipca 2001 został piłkarzem francuskiego Paris Saint-Germain. W Ligue 1 zagrał po raz pierwszy 28 lipca 2001 w zremisowanym 0:0 spotkaniu z Lille OSC. W barwach PSG zagrał w sumie w 99 meczach ligowych, w których zdobył 4 gole. Przed sezonem 2004/2005 odszedł za 10 milionów euro do angielskiego Manchesteru United. Jego debiut w Premier League przypadł na zremisowany 2:2 mecz z Bolton Wanderers, który został rozegrany 11 września 2004. W 44. minucie tego spotkania zdobył gola na 1:0 po podaniu Mikaëla Silvestre. Przez kibiców klubu został wybrany najlepszym piłkarzem sezonu 2004/2005. 14 września 2005 w meczu Ligi Mistrzów z hiszpańskim Villarrealem CF (0:0) odniósł kontuzję kolana, która ostatecznie wykluczyła go z gry w pierwszym zespole do końca sezonu 2005/2006. W sezonie 2006/2007 wraz z klubem został mistrzem Anglii. Utracił w nim jednak miejsce w wyjściowym składzie na rzecz Patrice’a Evry. W związku z tym usiłował wymóc na władzach klubu wyrażenie zgody na odejście do Liverpoolu F.C., co doprowadziło do konfliktu z ówczesnym trenerem Manchesteru United Aleksem Fergusonem. Heinze w późniejszych latach w publicznych wypowiedziach żałował swojego postępowania.