Latem 1940 zapewnił Adolfa Hitlera, że armia zostanie przezbrojona na kampanię przeciwko Związkowi RadzieckiemuRobert S. Wistrich - Kto był kim w III Rzeszy. Wydawnictwo Znak, Kraków, 1997, s. 65, język polski, .
Wobec szybko rosnących strat i znacznego zużycia materialnego Fromm zlecił w sierpniu 1941 sporządzenie memorandum, w którym zaproponował wcześniejsze porozumienie pokojowe. Memorandum i działania szefa Naczelnego Dowództwa Wehrmachtu Wilhelma Keitela doprowadziły do pozbawienia Fromma części jego uprawnień, a od końca 1942 rozważano jego zastąpienie.
W lipcu 1944, gdy dokonano zamachu na życie Adolfa Hitlera, był dowódcą Armii Rezerwowej. Po zamachu spiskowcy chcieli go przeciągnąć na swoją stronę, ale Fromm nie dał się przekonać (dowiedział się, że Wódz przeżył zamach). Zatrzymany przez spiskowców, po uwolnieniu wziął czynny udział w represjach. Mimo to, został oskarżony o tchórzostwo (wcześniej próbowano mu udowodnić, że wiedział o spisku i mu nie przeciwdziałał) i został rozstrzelany 12 marca 1945 w więzieniu w Brandenburg-Görden.