Początki działalności w ruchu robotniczym W marcu 1881 wrócił do Poznania, prawdopodobnie by wziąć udział w kampanii wyborczej SPD do Reichstagu. W tym samym roku do Poznania przybyli również wysłannicy ośrodka genewskiego (związanego z Ludwikiem Waryńskim). Prawdopodobnie poznał wtedy Stanisława Mendelsona, Marię Jankowską i Józefa Konstantego Janiszewskiego. Pierwsze lata działalności Kasprzaka związane były z rozprowadzaniem w różnych miastach Cesarstwa Niemieckiego literatury socjalistycznej.
W latach 1885–1886 był organizatorem pierwszych kółek socjalistycznych w Poznaniu. Współtwórca Polskiej Partii Socjalno-Rewolucyjnej Proletariat (tzw. II Proletariatu) w 1888, którego pracami kierował do 1891. Organizator pierwszej manifestacji pierwszomajowej na ziemiach polskich w 1890 roku. W 1892 podjął współpracę z rosyjskimi rewolucjonistami. W latach 1891–1893 przebywał w Londynie i Niemczech. Aresztowany przez wojska carskie, podczas przekraczania granicy Królestwa Polskiego i osadzony w warszawskiej Cytadeli.