Po Mundialu 2002 zastąpił Olega Romancewa na stanowisku trenera kadry A. Rosjanie efektownie rozpoczęli eliminacje do Euro 2004 od wygranych 4:2 z Irlandią i 4:1 z Albanią, jednak na przełomie marca i czerwca 2003 w trzech meczach zdobyli tylko jeden punkt; odnieśli dwie porażki ze znaczniej niżej rozstawionymi rywalami (1:3 z Albanią i 0:1 z Gruzją) oraz remis 2:2 ze Szwajcarią. Gazzajewowi zarzucano zbyt radykalne odmłodzenie zespołu. W sierpniu po przegranej w meczu towarzyskim z Izraelem podał się do dymisji. Był selekcjonerem dokładnie przez rok, w ciągu którego reprezentacja rozegrała dziewięć meczów (4 zwycięstwa – 2 remisy – 3 porażki).
W 2004 ponownie został trenerem CSKA Moskwa. W ciągu dwu sezonów zespół zdobył wszystkie najważniejsze trofea krajowe (mistrzostwo i Puchar Rosji w 2005 oraz Superpuchar Rosji w 2004), a wkrótce – po zwycięstwie 3:1 nad Sportingiem – sięgnął po Puchar UEFA. Gazzajew wprowadził do zespołu wielu młodych piłkarzy, nierzadko nastolatków (bramkarz Igor Akinfiejew miał 19 lat, kiedy wygrał Puchar UEFA, obrońcy – bracia Aleksiej i Wasilij Bieriezuccy 24 lata), którzy niedługo potem stali się filarami drużyny narodowej. Z bardziej doświadczonych piłkarzy w CSKA ważną rolę odgrywają jedynie obrońca Siergiej Ignaszewicz i pomocnik Rołan Gusiew.