1 kwietnia 1939 roku awansowany do stopnia generała pułkownika.
Podczas kampanii wrześniowej w 1939 roku dowodził 14 Armią, za co otrzymał Krzyż Rycerski. Od października 1939 dowódca 12 Armii, która brała udział w kampanii francuskiej i w 1941 roku w kampanii bałkańskiej. W lipcu 1940, po zakończeniu kampanii we Francji, awansowany na feldmarszałka. Na Bałkanach List dowodził całością sił niemieckich. Był odpowiedzialny za liczne zbrodnie wojenne (masowe egzekucje, w tym rozstrzeliwanie zakładników) popełnione na ludności cywilnej Grecji, Albanii i Jugosławii. Po zakończeniu kampanii pozostał do października 1941 roku głównodowodzącym sił niemieckich w południowo-wschodniej Europie. W lipcu 1942 roku objął dowództwo Grupy Armii A na froncie wschodnim, jednak w wyniku konfliktu, w który popadł z Hitlerem co do strategii walki, został 10 września 1942 roku pozbawiony dowodzenia i do końca wojny nie pełnił żadnych funkcji dowódczych.