W latach 1918–20 przebywał w Rosji sowieckiej, gdzie od lipca 1918 do stycznia 1919 był członkiem Kolegium Czeka, kierował Oddziałem walki z kontrrewolucją i Tajnym Oddziałem (Siekrietnyj Otdieł) Czeka, zajmującym się walką z kontrewolucją i antyradzieckimi partiami, organizacjami i ugrupowaniami politycznymi. Później wrócił na Ukrainę, gdzie w latach 1919–21 sprawował urząd komisarza inspekcji robotniczo-chłopskiej USRR, równolegle w czasie wojny domowej uczestnicząc w radach wojennych frontów Armii Czerwonej. Po zakończeniu wojny domowej objął funkcję komisarza spraw wewnętrznych USRR (1921–22), a w latach 1922–27 komisarza sprawiedliwości i prokuratora generalnego USRR. W latach 1923–27 zastępca członka RKP(b) i WKP(b), od 1927 aż do śmierci członek Komitetu Centralnego WKP(b).

7 marca 1927 zastąpił odwołanego za odchylenie nacjonalistyczne (tzw. szumskizm) Ołeksandra Szumskiego na stanowisku ludowego komisarza oświaty USRR, funkcję sprawował do 28 lutego 1933. Był jednym z głównych zwolenników polityki ukrainizacji i przeciwnikiem rosyjskiego szowinizmu narodowego. Od 1929 roku był członkiem Wszechukraińskiej Akademii Nauk (WUAN), do której rozwoju walnie się przyczynił.