Podał się do dymisji kilka miesięcy później, kiedy przegrał w pierwszym meczu eliminacyjnym do Mistrzostw Świata 2002 0:1 z Niemcami w ostatnim meczu rozgrywanym na stadionie Wembley.
Szybko znalazł zatrudnienie w drugoligowym Manchesterze City. Awansował z nim do Premiership oraz, dzięki nagrodzie za grę fair play, wystąpił w Pucharze UEFA, z którego jednak drużyna z Davidem Seamanem, Steve’em McManamanem, Robbiem Fowlerem i Nicolasem Anelką w składzie została wyeliminowana przez Dyskobolię Grodzisk Wielkopolski. Po słabych meczach w lidze w połowie 2005 roku Keegan został zwolniony.
Po pracy szkoleniowej powrócił po prawie trzech latach. Po zwolnieniu menedżera Sama Allardyce’a Keegan niespodziewanie wrócił do Newcastle United 16 stycznia 2008 roku. Kibice Newcastle entuzjastycznie przyjęli jego powrót, gdy pojawił się na powtórzonym meczu trzeciej rundy Pucharu Anglii ze Stoke City w towarzystwie właściciela Mike’a Ashleya i prezesa Chrisa Morta. Swój pierwszy mecz w roli szkoleniowca klubu od 1997 roku poprowadził 19 stycznia przeciwko Bolton Wanderers. Opaskę kapitańską powierzył Michaelowi Owenowi, mówiąc: „Nie boi się wyrażać swojego zdania, kiedy wie, że ma rację, i nie boi się mówić o tym, co czuje. To wielki profesjonalista i każdego dnia właściwie podchodzi do treningu”.