Do Abchazji powrócił w 2000, zakładając ruch Aitaira („Odrodzenie”), skierowany przeciw prezydentowi Władysławowi Ardzinbie. W 2004 ogłosił swój udział w wyborach prezydenckich, jednak został zdyskwalifikowany z powodu nieznajomości języka abchaskiego i niespełnienia cenzusu domicylu. W wyborach udzielił poparcia Siergiejowi Bagapszowi, dzięki czemu przyczynił się do jego zwycięstwa. W następstwie, 14 lutego 2005 prezydent mianował go szefem rządu republiki.
7 lipca 2007 premier Ankwab przeżył próbę zamachu. Został ranny w czasie ostrzału granatowego kolumny rządowych samochodów, International Herald Tribune, 9 lipca 2007..
Jesienią 2009 Ankwab został nominowany przez prezydenta Bagapsza jako jego kandydat na stanowisko wiceprezydenta w wyborach prezydenckich w grudniu 2009. W związku z tym 11 listopada 2009 obowiązki szefa rządu przejął wicepremier Leonid Łakierbaja. W wyborach prezydenckich z 12 grudnia 2009 Bagapsz uzyskał reelekcję, zdobywając ponad 60% głosów poparcia. 12 lutego 2010, wraz z zaprzysiężeniem prezydenta na drugą kadencję, Aleksandr Ankwab objął stanowisko wiceprezydenta Abchazji. Następnego dnia prezydent nowym szefem rządu mianował dotychczasowego ministra spraw zagranicznych, Siergieja Szambę.