Członkowie kierownictwa podjęli się próby rozpoczęcia działalności na terenie kraju, co skończyło się porażką – wszyscy na krótko po przyjeździe zostali aresztowani przez policję. Sam Rákosi został w 1926 roku skazany na osiem lat więzienia.
W 1927 roku partię dotknęły kolejne aresztowania. Objęły one 72 członków partii. Rok później rząd przeprowadził likwidację Socjalistycznej Partii Robotników Węgier. Ruch komunistyczny na Węgrzech kontynuował swoją działalność pod fasadą związków zawodowych. W ich ramach zorganizował serię strajków z lat 1927–1928. Po 1933 roku partia wystąpiła z propozycją organizacji jednolitego frontu antyfaszystowskiego. Do frontu dołączyła posiadająca nieliczną reprezentację parlamentarną Niezależna Partia Drobnych Rolników, odmówiła z kolei partia socjaldemokratyczna, która uznała ZSRR za takie samo zamrożenie dla Węgier co III RzeszaFelczak s. 334-5. W trakcie trwania hiszpańskiej wojny domowej grupa aktywistów partii brała udział w jej walkach w szeregach Brygad MiędzynarodowychVass, H., Ságvári, Á. (szerk.): A Magyar Szocialista Munkáspárt határozatai és dokumentumai, 1956–1962. Kossuth, Budapest, 1979, 664–670. l..