Odilo był jedynym synem w rodzinie.
W latach 1910–1914 uczęszczał do szkoły ludowej w Trieście, w której językiem wykładowym był włoski. Po wybuchu I wojny światowej jego ojciec został zmobilizowany i skierowany do służby w warsztatach etapowych w miejscowości Landschütz w Zalitawii (ob. Bernolákovo na Słowacji). Wraz z nim przeniosła się tam cała rodzina. W grudniu 1915 roku jedenastoletni Odilo rozpoczął naukę w Niższej Realnej Szkole Wojskowej w St. Pölten (Militär-Unterrealschule). Przygotowywała ona uczniów do nauki na jednej z wyższych szkół wojskowych, a w dalszej perspektywie – do kariery oficerskiej. Globocnik dał się poznać jako dobry uczeń; rok szkolny 1916/1917 zakończył z ósmą lokatą. Wojenna klęska i rozpad monarchii austro-węgierskiej uniemożliwiły mu ukończenie nauki i pokrzyżowały plany kariery wojskowej. W 1918 roku po zajęciu Triestu przez Włochy rodzina Globočników przeniosła się do Klagenfurtu. Odilo przez pięć miesięcy uczęszczał do tamtejszej Realschule, a następnie rozpoczął naukę w Państwowej Szkole Przemysłowej (Höhere Staatsgewerbeschule Klagenfurt).