W czerwcu 1994 został asystentem Sekretarza Generalnego w Departamencie Spraw Zagranicznych NZ. Jedną z jego pierwszych misji była podróż do państw- członków ECOWAS w celu przedyskutowania sytuacji w Liberii w czasie trwającej tam wojny domowej (1989–1996). Aż do zakończenia konfliktu, kontynuował swoje zaangażowanie w dyskusję, prowadzącą do osiągnięcia poparcia krajów sąsiednich na rzecz pokojowej rezolucji ONZ kończącej wieloletni konflikt.
ECOWAS Kouyaté opuścił ONZ we wrześniu 1997, kiedy objął stanowisko sekretarza generalnego Wspólnoty Gospodarczej Państw Afryki Zachodniej (ECOWAS). Zajmował je przez pięć lat, do lutego 2002. W tym czasie, w uznaniu za swoje zasługi, został odznaczony Komandorią Legii Honorowej, Afrykańską Gwiazdą Nigerii oraz togijskim Orderem Mono.
Premier 26 lutego 2007 został mianowany premierem Gwinei. Jego nominacja była wynikiem wielkiej fali protestów i strajków, które rozpoczęły się w Gwinei z początkiem 2007 z powodu niezadowolenia polityką prezydenta i rządu. W wyniku porozumienia między prezydentem Lansaną Conté a związkami zawodowymi, podpisano porozumienie mające zakończyć strajki.