Od 5 kwietnia 1920 roku do 8 marca 1921 roku zastępca członka, od 16 marca 1921 roku członek, a od 3 kwietnia 1922 sekretarz KC RKP(b), od 1 stycznia 1926 roku – członek Biura Politycznego KC WKP(b). Równocześnie od 22 listopada 1920 roku do 22 marca 1921 roku był I sekretarzem KC KP(b)U, od 22 listopada 1920 roku do 21 lipca 1921 roku członkiem Biura Politycznego KC KP(b)U, a od 23 stycznia 1934 roku do 27 maja 1937 roku członkiem KC KP(b)U.
Poparcie Stalina w walce o władzę zagwarantowało mu najwyższe stanowiska państwowe. 19 grudnia 1930 objął urząd przewodniczącego Rady Komisarzy Ludowych (premiera ZSRR) i wiernie realizował stalinowską politykę kolektywizacji. Od 23 listopada 1937 do 10 września 1939 był przewodniczącym Rady Ekonomicznej przy Radzie Komisarzy Ludowych ZSRR. W latach 1937–1938 zrealizował wielką czystkę w wojsku i partii komunistycznej. 3 maja 1939 roku, pozostając premierem zastąpił na stanowisku komisarza spraw zagranicznych Maksima Litwinowa. W decydującym dla Europy okresie kierował radziecką polityką zagraniczną. W nocy z 23 na 24 sierpnia 1939 roku podpisał w Moskwie z ministrem spraw zagranicznych Niemiec Joachimem von Ribbentroppem radziecko-niemiecki pakt o nieagresji, zwany paktem Ribbentrop-Mołotow.