W roku 1824 Gustaw wstąpił do armii austriackiej, gdyż ze względu na presję Bernadotte'a nie chciano go przyjąć, ani do służby rosyjskiej, ani angielskiej. Zdolny, pracowity, uczciwy i porządny, szybko awansował: w 1826 był już podpułkownikiem, 12 grudnia 1829 został generałem majorem, a 29 lutego 1836 został mianowany na stopień marszałka polnego porucznika. 20 grudnia 1848 został urlopowany. Od 1831 do śmierci był szefem Węgierskiego Pułku Piechoty Nr 60.
W roku 1828 zaręczył się z bogatą księżniczką Marianną Niderlandzką, ale do ślubu nie doszło pod presją dyplomatyczną Bernadotte'a (Marianna wyszła później za Albrechta, najmłodszego brata Fryderyka Wilhelma IV i Wilhelma I, i wzniosła pałac w Kamieńcu Ząbkowickim na Dolnym Śląsku). W tym czasie Gustaw musiał, także pod presją Bernadotte'a, zaprzestać używania dotychczasowego tytułu "książę szwedzki" (Prins av Sverige), ale opiekuńczy cesarz Franciszek I nadał mu tytuł "książę Waza" (niem.:Prinz von Wasa), potwierdzając jednocześnie jego tytulaturę "Królewskiej Wysokości" i drugie miejsce po członkach rodziny Habsburg-Lothringen przy wszystkich ceremoniach dworskich.