Działając pod kryptonimem Ramsay, zbudował siatkę szpiegowską w Japonii pracującą na rzecz ZSRR. Jego agenci mieli kontakty z głównymi politykami, dzięki czemu uzyskiwał informacje o japońskiej polityce zagranicznej. Ponownie nawiązał kontakt z Hotsumim Ozaki, który był doradcą Fumimaro Konoe, premiera Japonii. Wykorzystywał to, m.in. kopiując tajne dokumenty dla Sorgego.
Oficjalnie Sorge wstąpił do NSDAP i pracował dla lokalnej ambasady i ambasadora Eugena Otta jako agent Abwehry. Umożliwiało mu to potwierdzanie uzyskiwanych informacji w drugim źródle. Jego kochanką została też żona ambasadora Otta, od której również pozyskiwał informacje. Był uważany za gorliwego nazistę (na wydanym przez Sorgego przyjęciu pożegnalnym przed wyjazdem do Japonii był obecny Joseph Goebbels), jednak z powodu stresu popadł w alkoholizm. Sorge przekazał do centrali w Moskwie informacje o pakcie antykominternowskim i o pakcie trzech. Podał również dokładną datę rozpoczęcia ataku Niemiec na ZSRR, którą uzyskał dwa dni wcześniej od niemieckiego attaché wojskowego w Tokio. Moskwa podziękowała za raport, ale informacje w nim zawarte zostały zignorowane, a Józef Stalin nie podjął jakichkolwiek działań. Jesienią 1941 przekazał informację, że Japonia po klęsce nad Chałchin-Goł nie ma zamiaru atakowania ZSRR od wschodu, od strony Syberii.