Kariera reprezentacyjna Kroos grał także w reprezentacji Niemiec U-17, a 5 września 2008 zadebiutował w kadrze U-21, w meczu eliminacyjnym Mistrzostw Europy z Irlandią Północną, strzelając gola i zaliczając asystę. Został uznany najlepszym piłkarzem Mistrzostw Świata U-17 rozgrywanych w 2007 w Korei Płd., w których zdobył 5 bramek w 6 meczach.
Następnie zadebiutował w pierwszej reprezentacji. W 2010 zdobył brązowy medal na Mistrzostwach Świata 2010. Na Mistrzostwach Świata 2014 w meczu półfinałowym wygranym (7:1) przeciwko gospodarzom Brazylii strzelił dwa gole w ciągu dwóch minut (24' i 26'). 13 lipca 2014 w meczu finałowym mistrzostw świata przeciwko Argentynie zagrał całe spotkanie wygranym (1:0) po golu Mario Götze w 113' minucie dogrywki zdobywając czwarte mistrzostwo świata dla reprezentacji Niemiec.