W 1936 po raz pierwszy zasiadł w Eduskuncie, mandat deputowanego do fińskiego parlamentu sprawował przez 20 lat do 1956. Wkrótce zaczął obejmować stanowiska rządowe – był wiceministrem spraw wewnętrznych i ministrem sprawiedliwości (od października 1936 do marca 1937) oraz ministrem spraw wewnętrznych (od marca 1937 do listopada 1939). W okresie konfliktów zbrojnych ze Związkiem Socjalistycznych Republik Radzieckich (wojny zimowej i wojny kontynuacyjnej) pozostawał poza rządem. W marcu 1940 w parlamencie opowiedział się przeciwko postanowieniom . Pełnił funkcje dyrektora centrum ewakuacyjnego w Karelii (1940–1943) oraz komisarza w ministerstwie finansów (1943–1945). Od 1942 pod pseudonimem „Pekka Peitsi” publikował artykuły poświęcone polityce wewnętrznej i zagranicznej w czasopiśmie „Suomen Kuvalehti”. Od 1944 zaczął wprost głosić poglądy budowania zaufania między Finlandią a komunistycznym ZSRR.