thumb|left|180px|Walter Ulbricht (1946) thumb|Walter Ulbricht (pierwszy z prawej, 1971) Po przejęciu władzy w Niemczech przez NSDAP w 1933 na komunistów spadły liczne represje. W tej sytuacji Ulbricht musiał opuścić kraj. Na emigracji kontynuował działalność polityczną, prowadząc z ramienia Międzynarodówki Komunistycznej działania wymierzone przeciwko ruchowi trockistowskiemuUrsula Langkau-Alex: Deutsche Volksfront 1932-1939: Bd. Dokumente zur Geschichte des Ausschusses zur Vorbereitung einer deutschen Volksfront, Chronik und Verzeichnisse, Akademie Verlag 2005, s. 349, .. Studiował w Międzynarodowej Szkole Leninowskiej w Moskwie, przebywał w Paryżu, później w Hiszpanii, gdzie wziął udział w wojnie domowej lat 1936–1939. Potem ponownie znalazł się w Moskwie. W czasie II wojny światowej służył w stopniu pułkownika w szeregach Armii Czerwonej. W 1945 z polecenia Józefa Stalina powrócił do Niemiec z zadaniem odbudowania w radzieckiej strefie okupacyjnej struktur Komunistycznej Partii NiemiecPeter Grieder: The East German Leadership, 1946-73: Conflict and Crisis, Manchester UP 2000, s. 14.. Doprowadził wkrótce do jej połączenia z SPD i utworzenia nowej Niemieckiej Socjalistycznej Partii Jedności (SED).