Po upadku Prus i zawartym później pokoju Grolman był jednym z najaktywniejszych pomocników Scharnhorsta w pracach nad reorganizacją armii w 1809 roku, będąc od 1 marca 1809 dyrektorem królewskiego Gabinetu Wojennego. Wstąpił do i próbował uczestniczyć w nieudanej wyprawie Ferdinanda von Schilla, po której niepowodzeniu wstąpił do służby austriackiej jako major sztabu generalnego, odznaczony później orderem wojskowym Marii Teresy.

Następnie udał się do Kadyksu dla wsparcia Hiszpanów w walce z Napoleonem i poprowadził korpus ochotników w obronie tego portu przed wojskami marszałka Victora w 1810. Uczestniczył w bitwie pod Albuera, pod Saguntum i w , podczas którego dostał się do niewoli. Wkrótce zbiegł do Szwajcarii, a w sierpniu przybył do Jeny, gdzie w oczekiwaniu na przebieg kampanii rosyjskiej studiował historię. Pogłębione zapoznanie się z kontekstem historycznym wywarło istotny wpływ na jego późniejsze koncepcje. Od 1813 służył jako major w pruskim sztabie generalnym, kolejno pod komendą i jako przedstawiciel w kwaterze rosyjskiego generała Barclaya de Tolly. Wraz z Kleistem uczestniczył w zwycięstwie pod Chełmnem, a po wyleczeniu się z ciężkiej rany zadanej w tej bitwie, wziął udział w bitwie pod Lipskiem.