W 1991 roku rozpoczął pracę w Banku Światowym, zajmując się projektami ds. Azji Wschodniej i Azji Południowej. W latach 90. XX wieku spędził pięć lat w Rosji, Chinach i w Indiach, zarządzając projektami rozwojowymi w tych państwach.
Po zamachach z 11 września odszedł z Banku Światowego. W tamtym czasie często zabierał głos w mediach oraz udzielał wywiadów w prasie. W listopadzie 2002 roku został mianowany specjalnym doradcą ONZ ds. Afganistanu i brał udział w wypracowaniu tzw. Porozumienia z Bonn, które określało zasady transferu władzy w Afganistanie po obaleniu reżimu talibów.
Kariera polityczna W grudniu 2001 roku powrócił do Afganistanu i został szefem doradców prezydenta Hamida Karzaja. W 2002 roku objął stanowisko ministra finansów w gabinecie prezydenta Karzaja. Jako minister finansów przeprowadził szereg reform strukturalnych, które stworzyły podwaliny systemu finansowego w kraju. Ghani doprowadził do wprowadzenia nowej waluty, skomputeryzował resort finansów, budżet państwa ustanowił głównym narzędziem polityki finansowej oraz zreformował system podatkowy i celny. W 2003 roku został uznany przez magazyn Emerging Markets najlepszym ministrem finansów w Azji.