10 grudnia 2001 zostało utworzone Zgromadzenie Narodowe Azerów w Gruzji (NAAG). 29 maja 2002 został wybrany na Przewodniczącego Tymczasowego Komitetu Zgromadzenia Narodowego Azerów w Gruzji. 24 listopada 2002 na pierwszym Założycielskim Kongresie tej partii w Tbilisi został wybrany na Prezesa NAAG. Od 2003 aktywnie angażuje się w działania ochrony praw i integracji w społeczno-politycznym życiu Azerów w Gruzji. 8 marca 2003 przyczynił się do uznania NAAG, jako jedynego przedstawiciela Azerów w Gruzji.

W listopadzie 2003 Giulmamedow jako szef NAAG nie poparł „rewolucji róż”, przywódcą której był Micheil Saakaszwili, co w 2004 zainicjowało do prześladowania Giulmamedowa i przywództwa NAAG przez nowy rząd Gruzji. W lutym 2005 zaczął ostro krytykować Prezydenta Gruzji Micheila Saakaszwiliego oraz gruziński rząd, oskarżając o szowinizm i autorytaryzm. 21 sierpnia 2005 Ministerstwo Bezpieczeństwa i Prokuratura Gruzji zorganizowały zbrojny atak na jego dom w miejscowości Kachegani w celu aresztowania Giulmamedowa.

Na emigracji 22 sierpnia 2005 Giulmamedow opuścił Gruzję, po czym zorganizował w Baku, Trabzonie i Warszawie tymczasowe biura NAAG na uchodźstwie. Tymczasem Departament Wywiadu Gruzji ogłosił jego poszukiwania.