Był bezpośrednio odpowiedzialny za masowe represje wobec faktycznych i domniemanych politycznych przeciwników – liczba więźniów politycznych była na Węgrzech znacznie większa niż w Polsce przy trzykrotnie mniejszej liczbie ludności. Uważał siebie za najlepszego węgierskiego ucznia Stalina. Jest autorem określenia „taktyka salami” jako zdefiniowania stalinowskiej praktyki eliminacji opozycji krok po kroku (plasterek po plasterku).

Jego pozycja została zachwiana już po śmierci Stalina (5 marca 1953), gdy Ławrientij Beria bez ogródek oświadczył Rákosiemu, że „Węgry miały wielu cudzoziemskich królów, ale króla żydowskiego tolerować nie będą”. Bezpośrednim skutkiem było mianowanie 4 lipca 1953 r. Imre Nagya na premiera Węgier. Po wygłoszeniu na XX Zjeździe KPZR (luty 1956) przez Nikitę Chruszczowa tajnego referatu, w którym Chruszczow określił Stalina jako przestępcę działającego w partii komunistycznej, Rákosi pod naciskiem Chruszczowa został 18 lipca 1956 r. odwołany z pełnionej funkcji. Jego miejsce zajął wówczas Ernő Gerő, bliski współpracownik Rákosiego, uprzednio funkcjonariusz Kominternu i agent INO NKWD w czasie wojny domowej w Hiszpanii.