Jeszcze podczas sezonu 2003/2004 Mahmoud wyjechał do Zjednoczonych Emiratów Arabskich i przez pół roku był zawodnikiem tamtejszego Al-Wahda FC. Latem 2004 na krótko wrócił do Al-Talaby, a już w styczniu 2005 był piłkarzem katarskiego Al-Khor. Przez dwa sezony był najlepszym strzelcem zespołu. W 2005 roku zajął z nim trzecie miejsce w Q-League i zdobył Puchar Kataru. W 2006 zajął z klubem siódme miejsce w ldze. Natomiast w sezonie 2005/2006 w spotkaniu z Al-Shamal (8:0) strzelając sześć goli w tym spotkaniu pobił rekord ligi. Latem 2006 przeszedł do innego katarskiego klubu, Al-Gharafa, z którym został wicemistrzem Kataru. W grudniu 2006 w spotkaniu przeciwko Al-Sadd (1:1) zdobył bramkę w 27. sekundzie – był to najszybciej zdobyty gol w historii ligi katarskiej. W Al-Gharafa Mahmoud grał do 2011 roku (z półroczną przerwą na wypożyczenie do Al-Arabi SC) i zdobył z tym klubem trzy mistrzostwa kraju (2007/2008, 2008/2009, 2009/2010) i wywalczył krajowych puchar. Po odejściu ze stołecznego klubu, występował również w katarskich Al-Wakrah i Al-Arabi SC, z którym w sezonie 2012/2013 wygrał Qatar Stars League.
W sezonie 2013/2014 Younis Mahmoud grał w saudyjskim Al-Ahli Dżudda, a potem wrócił do ojczyzny. Jako piłkarz Erbil SC grał jednak tylko w rozgrywkach pucharowych.