Działał w województwach: pomorskim, poznańskim i warszawskim, utrzymywał kontakt z organizacjami partyjnymi w jednostkach wojskowych w Rembertowie i Modlinie. Na posiedzeniu Komitetu Wojskowego KPP w Rembertowie wygłosił referat, w którym stwierdził, że w wypadku strajku powszechnego wojsko powinno poprzeć robotników. Władze KPP uznały ten pogląd za lewacki i odwołały Gordona z Centralnego Wydziału Wojskowego i skierowały go do pracy w Komitecie Warszawskim KPP. Według Celiny Budzyńskiej cechował się on w tym okresie „hurra-rewolucyjnością” w poglądach. 1 IX 1931 ponownie aresztowany i 1 X 1932 skazany na 4 lata więzienia i 10 lat utraty praw. Karę odbywał w Więzieniu Centralnym w Warszawie, na Mokotowie i w Pawiaku, a od 1933 w Płocku. Podczas transportu więźniów urządził protest przeciwko zakuwaniu więźniów politycznych w kajdanki, za co został przewieziony do więzienia w Koronowie. W więzieniach organizował zbiorowe i indywidualne zajęcia współwięźniów, był stałym „wykładowcą” ideologii komunistycznej, wyróżniającym się umiejętnością przekonywania. 14 X 1934 zwolniony z więzienia na czteromiesięczny urlop zdrowotny, wznowił działalność w KPP. Był sekretarzem Komitetu Okręgowego (KO) KPP Poznań-Pomorze, przez ponad rok działał w Poznaniu, Bydgoszczy i Grudziądzu. W 1935 poślubił działaczkę komunistyczną Martę Iwańską.