Działał w Demokratycznej Republice Azerbejdżanu, 27 kwietnia 1920 stanął na czele Azerbejdżańskiego Komitetu Wojskowo-Rewolucyjnego. Odegrał on jedynie fasadową rolę w zaprowadzeniu władzy radzieckiej w Azerbejdżanie, gdyż o tym przesądziło wkroczenie wojsk radzieckich do kraju, zrzeczenie się władzy przez parlament i bezkrwawe opanowanie Baku przez Armię Czerwoną. Po tym wydarzeniu Nərimanov został przewodniczącym Rady Komisarzy Ludowych Azerbejdżańskiej Socjalistycznej Republiki Radzieckiej i pozostał na tym urzędzie do marca 1922. W okresie tym azerska Rada Komisarzy Ludowych najpierw zażądała od Armenii zwrotu Górskiego Karabachu, następnie w grudniu 1920 Nərimanov zapowiedział, że zwróci Armenii ten sporny obszar. Dopiero trzy lata później wypracowany został względnie trwały kompromis między Azerami i Ormianami – w części Górskiego Karabachu utworzono obwód autonomiczny. W 1922 wsparł reformę ortograficzną języka azerskiego, który miał być odtąd zapisywany przy pomocy alfabetu łacińskiego, a nie arabskiego.