Redagował kilka pism anarchistycznych w jidisz, jak: „Dos Fraje Vort” (kiedy był jego redaktorem, nie znał jeszcze jidisz) „Arbeter Frajnt” oraz „Germinal”.
W 1902 powstała federacja żydowskich anarchistów, w której działał; reprezentował ją na Międzynarodowym Kongresie Anarchistycznym w Amsterdamie, w 1907.
W czasie I wojny światowej w związku ze swoim niemieckim pochodzeniem został internowany, przez co pisma redagowane przez niego zostały zawieszone, a federacja nigdy nie odzyskała dawnej siły.
W 1918 został deportowany do Holandii, po czym wrócił do Niemiec, gdzie stał się jedną z czołowych postaci ruchu anarchosyndykalistycznego. Brał udział w zjeździe założycielskim anarchosyndykalistycznej międzynarodówki, w 1922, w Berlinie. Rocker ostro krytykował część anarchistów popierających rosyjskich bolszewików, działał w ruchu antyfaszystowskim.
W 1933, po przejęciu władzy przez narodowych socjalistów został zmuszony do ponownej ucieczki z kraju. Osiadł w USA, gdzie zajmował się działalnością pisarską. W 1941 poparł aliantów jako „mniejsze zło”, za co był