W tym czasie oraz w późniejszych latach dowodził oddziałami kawalerii podczas walk z Basmactwem w centralnej Azji. Od 1924 był członkiem partii komunistycznej – RKP(b).
Służba w organach bezpieczeństwa W 1928 został przeniesiony do organów bezpieczeństwa (wówczas: Zjednoczony Państwowy Zarząd Polityczny – OGPU). Służbę w organach OGPU rozpoczął od funkcji naczelnika 47 i 48 oddziału wojsk granicznych OGPU. W następnych latach dowodził różnymi oddziałami piechoty i kawalerii wojsk OGPU (od 1934 NKWD). W latach 1936–1939 dowodził wojskami NKWD i wojskami pogranicza (NKWD) w Azerbejdżańskiej SRR i Białoruskiej SRR. W połowie 1939 został awansowany na stopień komkora.
II wojna światowa Od 29 lutego 1939 do lipca 1943 był zastępcą ds. wojsk NKWD ludowego komisarza spraw wewnętrznych ZSRR Ławrientija Berii, w międzyczasie został awansowany do stopnia generała porucznika. W grudniu 1939 roku uczestniczył w konferencji Gestapo-NKWD w Zakopanem, a 1940 roku był jednym z współorganizatorów zbrodni katyńskiejWładimir Abarinow, Oprawcy z Katynia, Kraków 2007 (), str. 148. Po ataku Niemiec na ZSRR – od lipca do grudnia 1941 – dowodził 29 Armią, a od grudnia 1941 do lipca 1942 – 39 Armią. Od 1943 ponownie zaczął sprawować funkcje dowódcze w Armii Czerwonej z awansem na generała pułkownika.