W okresie wczesnego cesarstwa, po reformach Augusta, armia liczyła około 25 legionów (ok. 150 tysięcy żołnierzy), którym towarzyszyła podobna liczba wojsk pomocniczych (auxilia), rekrutowanych głównie w prowincjach mniej zromanizowanych. Łączna liczba sił zbrojnych wynosiła około 300 tysięcy. W sytuacjach wyjątkowych, takich jak wojny Trajana z Dakami i Partami, liczba legionów wzrastała – do 27. Jednostki stacjonowały głównie w obozach przygranicznych, połączonych rozwiniętą siecią dróg.
Od III wieku, w związku z kryzysem cesarstwa, struktura armii zaczęła się stopniowo zmieniać. Narastający napór Germanów na granice prowadził do ich częstego przełamywania oraz grabieży prowincji przygranicznych.
Reformy zapoczątkował cesarz Galien, tworząc duże, samodzielne oddziały jazdy. Przełomowe zmiany wprowadziła tetrarchia pod przewodnictwem cesarza Dioklecjana. Armia została podzielona na: wojska przygraniczne (limitanei), odpowiedzialne za obronę umocnień granicznych, wojska polowe (comitatenses), stacjonujące wewnątrz imperium i reagujące na większe zagrożenia.
Liczebność armii wzrosła do ok. 500 tysięcy żołnierzy.