Po ataku na Polskę w 1939, w obliczu niemieckiej polityki okupacyjnej na Wschodzie, jego stosunek do sposobu prowadzenia wojny przez Hitlera stawał się coraz bardziej krytyczny. W czerwcu 1941, Freytag von Loringhoven został przydzielony jako pierwszy oficer do sztabu generalmajora Heinricha zu Dohna. W sierpniu 1943, z inicjatywy admirała Wilhelma Canarisa, objął kierownictwo Wydziału II niemieckiego wywiadu i kontrwywiadu wojskowego Abwehry (niem. Abwehr), zastępując na tym stanowisku Erwina Lahousena. Jeszcze w lipcu 1943, wraz z Lahousenem towarzyszył Canarisowi podczas pobytu we Włoszech, by ostrzec władze włoskie przed operacją Alarich (niem. Unternehmen Alarich), której celem miało być rozbrojenie wojsk włoskich wobec oczekiwanej kapitulacji Włoch.

Po przeniesieniu do Berlina, nawiązał kontakt z pułkownikiem Clausem von Stauffenbergiem, przygotowującym zamach na Hitlera i pucz wojskowy. Zorganizował ładunki wybuchowe, użyte przez von Stauffenberga do przeprowadzenia nieduanego zamachu na Hitlera 20 lipca 1944 w Wilczym Szańcu.