W reprezentacji zadebiutował 5 października 1983 w meczu z Austrią. Ówczesny selekcjoner Jupp Derwall nie miał jednak zbyt wielkiego przekonania do obrońcy Bayernu. W efekcie ominęły go Mistrzostwa Europy 1984. Większe uznanie zdobył u Franza Beckenbauera, następcy Derwalla. Grał częściej, choć też nie był wiodącą postacią. W owym czasie mówiono, iż Augenthaler dostaje powołania jedynie z uwagi na swoją przynależność klubową. Beckenbauer rzekomo miał mieć słabość do piłkarzy Bayernu Monachium.
Kluczową rolę w kadrze odegrał tylko raz: podczas włoskiego Mundialu w 1990 roku. Rozegrał wszystkie mecze. Finał z Argentyną 8 lipca 1990 był jego ostatnim meczem w narodowych barwach.
Po mistrzostwach jego forma zaczęła drastycznie spadać. Choć nadal grał w podstawowym składzie monachijczyków, koniec zbliżał się dużymi krokami. W 1991 roku w półfinale Pucharu Mistrzów Bayern potykał się z mistrzem Jugosławii, Crveną Zvezdą Belgrad. W dziewięćdziesiątej minucie rewanżu strzelił gola samobójczego, który wyeliminował niemiecką drużynę. Po skończonym sezonie zakończył karierę.
Przez następnych sześć lat był asystentem kolejnych trenerów Bayernu, Juppa Heynckesa, Sørena Lerby, Ericha Ribbecka, Giovanni Trapattoniego i Otto Rehhagela. Od 1997 roku pracuje jako samodzielny trener.