Swą karierę wojskową rozpoczął już w armii królewskiej, w której dosłużył się stopnia sierżanta i adiutanta pułku. Po wybuchu rewolucji francuskiej pozostał w armii, która przekształciła się w armię rewolucyjną. Wówczas przyjął kolejne imię – Juliusz (fr. Jules) – na cześć Juliusza Cezara. Było to zgodne z ówczesną, klasycyzującą modą, odwołującą się do kultury starożytnych Greków i Rzymian. W służbie wojskowej Bernadotte szybko awansował, 18 lipca 1793 roku został kapitanem – co byłoby nie do osiągnięcia dla mieszczanina przed rewolucją. Stopień podpułkownika otrzymał 8 lutego 1794 roku drogą demokratycznego głosowania. Rewolucyjnym zwyczajem wybrali go żołnierze. Następnie został pułkownikiem i w tym stopniu służył pod rozkazami generała Jeana-Baptiste Klébera. 26 czerwca 1794 przyczynił się do zwycięstwa w bitwie pod Fleurus, w następstwie czego awansował na stopień generała brygady.