Po zdaniu matury w 1912 został studentem Politechniki Lwowskiej, na wydziale budowy maszyn. Uczęszczał tam jednak tylko rok. Potem uczył się w Akademii Handlu Zagranicznego w Wiedniu.
I wojna światowa mały|Józef Beck jako oficer artylerii (1914)
W 1913 po raz pierwszy zetknął się z Józefem Piłsudskim. Spotkał go podczas pobytu u swego wuja w Zakopanem. Latem 1914 wstąpił do Polskiej Organizacji Wojskowej. W Limanowej był jednym z organizatorów Drużyn Strzeleckich. W pierwszych dniach sierpnia 1914 znalazł się w Krakowie, gdzie 23 sierpnia wstąpił do tworzących się Legionów Polskich. Jako były student politechniki został automatycznie przydzielony do artylerii. Zaczynał od stopnia kanoniera, ale w październiku 1914 był już bombardierem i celowniczym w 1 plutonie 1 baterii 1 pułku artylerii. W styczniu 1915 został kapralem. Podczas walk nad Styrem (wiosna 1916), otrzymał awans na podporucznika. Podczas bitwy pod Kostiuchnówką doznał rany głowy. Podczas kryzysu przysięgowego znalazł się wśród oficerów, którzy odmówili złożenia przysięgi wierności cesarzowi niemieckiemu. Porucznik Beck został odesłany do zapasowych formacji austro-węgierskich, a później skierowany do szkoły artylerii w Bratysławie. Następnie trafił do dowództwa korpusu węgierskiego w Sopronie, skąd udało się mu dostać do Lwowa.