20 marca 1997 prezydent Armenii Lewon Ter-Petrosjan mianował Koczariana na stanowisko szefa rządu republiki Armenii. Także w samej Armenii Koczarian cieszył się dużą popularnością. Po rezygnacji Ter-Petrosjana w lutym 1998 został pełniącym obowiązki prezydenta, a w marcu 1998 wystartował w wyborach, w których uzyskał blisko 60% głosów. Na stanowisku głowy państwa został zaprzysiężony 10 kwietnia 1998. Od 2 maja 2000 do 12 maja 2000 jako prezydent był też p.o. premiera Armenii. 5 marca 2003 Koczarian ponownie został wybrany prezydentem, uzyskując ponad 67% głosów. Opozycja zarzuciła Koczarianowi fałszerstwa wyborcze, a na nadużycia ze strony władz zwracali uwagę międzynarodowi obserwatorzy.
Za rządów Koczariana w Armenii przeprowadzone zostały reformy systemu prawnego, m.in. dokonano zmian w konstytucji oraz zniesiono karę śmierci. Armenia wstąpiła do Rady Europy oraz Światowej Organizacji Handlu. Podjęta została współpraca armeńskich sił zbrojnych z NATO. Jednocześnie zacieśniła się współpraca gospodarcza i paliwowo-energetyczna z Rosją, która stała się głównym zagranicznym inwestorem na terenie Armenii.