Studiował na Uniwersytecie Berlińskim gospodarkę narodową oraz nauki polityczne i prawne. Przerwał studia w lecie 1931 roku, aby móc utrzymać rodzinę po tym, jak jego matka straciła pracę. We wrześniu 1931 wstąpił do NSDAP, w 1932 został powołany do kierownictwa HJ i przejął organizację komórek zawodowych oraz zakładowych.
Axmann był od maja 1933 roku dowódcą terenowym oraz kierownikiem urzędu ds. socjalnych (Soziales Amt der Reichsjugendführung), w listopadzie 1934 przejął dowództwo HJ w Berlinie, a w lipcu 1936 został kierownikiem Reichsberufswettkampf (Zawodowego Współzawodnictwa Rzeszy).
W dniu 1 maja 1940 roku został zastępcą Reichsjugendführera Baldura von Schiracha, a 8 sierpnia jego następcą. Rozwijał militarną organizację HJ i przekształcił Służby Patrolowe HJ w organizację rekrutacyjną dla potrzeb Waffen-SS. Podczas II wojny światowej stracił prawą rękę jako żołnierz 23 Dywizji Piechoty w kampanii rosyjskiej w 1941 roku.