1 sierpnia 1932 wstąpił do NSDAP, a w grudniu tego roku także do SS.
W 1930 Reinefarth poślubił Adelheid (Heidi) Reichelt (1905-1986) i miał z nią dwoje dzieci: Petera (ur. 1933) i Inge (ur. 1936).
Pierwsze lata II wojny światowej Po wybuchu II wojny światowej Reinefarth walczył początkowo podczas kampanii wrześniowej, za co otrzymał Krzyż Żelazny II klasy. Następnie, w 337. pułku piechoty Wehrmachtu, brał udział w kampanii przeciwko Francji w 1940. Jeszcze jako podoficer (sierżant) wziął tam ze swym plutonem do niewoli 3 tys. żołnierzy francuskich i jako jeden z niewielu podoficerów został udekorowany Krzyżem Rycerskim. Wehrmacht opuścił w stopniu porucznika, przechodząc do rezerwy. Powołany w 1941 ponownie do Wehrmachtu, do swego 337. pułku piechoty, wziął udział w walkach na froncie wschodnim. Zaczął także szybko awansować w (cywilnej) SS i 20 kwietnia 1942 został generałem majorem policji oraz SS-Brigadeführerem.