Zajmował się organizacją związków zawodowych, od 1923 pracował w aparacie wojskowo-politycznym KPD, oficjalnie pracował jako cieśla, organizował nielegalne magazyny broni i pomagał w przygotowaniu zbrojnego powstania komunistów w Hamburgu w październiku 1923. Po stłumieniu powstania wyjechał do Belgii, gdzie nawiązał współpracę z wywiadem ZSRR, 1924 wyjechał do ZSRR, przyjął radzieckie obywatelstwo i wstąpił do RKP(b), 1924–1925 był na kursach wojskowo-politycznych w szkole RKP(b) (lub Kominternu). Został instruktorem Komitetu Wykonawczego Kominternu, pracował w Razwieduprze Sztabu Armii Czerwonej, kilkakrotnie nielegalnie wyjeżdżał za granicę, wypełniając zadania sowieckiego wywiadu – m.in. do Chin (w sierpniu 1927, wziął udział w powstaniu w Kantonie), do Czechosłowacji (1928–1929; współpracował z Robertem Korbem), do W. Brytanii (1929), Holandii (1930) i Francji (1930–1931 był w Alzacji i Lotaryngii). W latach 1931–1932 instruktor w Międzynarodowej Leninowskiej Szkole Kominternu (Международная ленинская школа);