Miejsce Jagody na stanowisku szefa NKWD zajął Nikołaj Jeżow. Do partii komunistycznej wstąpił dopiero w maju 1917. Następnie sprawował niższe partyjne funkcje na prowincji do 1927. Szybką karierę zrobił podczas kolektywizacji rolnictwa, gdy zwrócił uwagę Stalina sprawnością i bezwzględnością w tworzeniu kołchozów i łamaniu oporu chłopów. Sprowadzono go do Moskwy i przydzielono do gabinetu Stalina. Urzędowanie w resorcie rozpoczął od krwawej rozprawy z ekipą swojego poprzednika Genricha Jagody. Nakazał podwładnym stosowanie wszystkich metod wydobywania zeznań, łącznie z torturami, w których sam uczestniczył. Przyniosło mu to – z uwagi na mały wzrost (poniżej 150 cm) – przydomek Krwawego Karła. Z polecenia Stalina przygotował i rozpoczął masowe represje, które zyskały potem miano jeżowszczyzny. W listopadzie 1938 Stalin zdymisjonował Jeżowa ze stanowiska szefa NKWD i niespełna pół roku później nakazał go aresztować. Jeżowa stracono 4 lutego 1940 po tajnym procesie.