Po trzech latach, zasymulował chorobę i przeniesiono go do szpitala, z którego zbiegł do zaboru pruskiego, gdzie działał w PPS-ie. mały|Tablica upamiętniająca miejsce mieszkania Kasprzaka przy ulicy jego imienia w Warszawie
Współpraca z Różą Luksemburg W 1901 roku wspólnie z Różą Luksemburg zaangażował się w sprawę strajku dzieci wrzesińskich. W tym samym roku postanowił kandydować do Reichstagu z hasłami sprzeciwiającymi się germanizacji i Hakacie. Do Warszawy wrócił w 1904 roku.
Kasprzak był wielokrotnie więziony przez władze carskie i pruskie. Silny fizycznie, obdarzony konspiracyjną intuicją, nie podporządkowywał się partyjnej dyscyplinie i zawsze wychodził obronną ręką z opresji. Na własnych plecach przeniósł Różę Luksemburg przez granicę rosyjsko-pruską. Wyczyn ten przysporzył mu dodatkowej sławy. Za współpracę z Różą Luksemburg został wyrzucony z SPD. Marcin Kasprzak był wielokrotnie niesłusznie pomawiany o współpracę z tajną policją w Rosji bądź Prusach, za co został wyrzucony z PPS-u.