Na sejmie w Augsburgu w 1530 r. próbował jeszcze doprowadzić do porozumienia między Kościołem a Lutrem, ale bez rezultatu. Jedynym efektem sejmu było powstanie 4 kwietnia 1531 r. sojuszu protestanckich książąt znanego jako Związek szmalkaldzki. W kolejnych latach Karolowi udało się odnieść pewne sukcesy w walce z reformacją. Arcybiskup koloński von Wied chciał zsekularyzować dobra biskupie w swoim państwie, ale Karol udaremnił te plany i von Wied stracił arcybiskupstwo. W 1543 r. zmusił księcia Kliwii i Geldrii Wilhelma Bogatego do zaprzestania działań na rzecz rozwoju reformacji.
thumb|Karol V pod Mühlbergiem – obraz Tycjana W 1545 rozpoczął się Sobór trydencki, częściowo dzięki staraniom Karola. Dzięki reformie kościoła, rozpoczętej przez sobór, Karol zdołał poprawić swoją pozycję w Niemczech. W czerwcu 1546 r. Karol zwołał sejm do Ratyzbony. Tam, za obietnicę elektorstwa i patronatu nad dwoma arcybiskupstwami (Magdeburga i Halberstadtu) Karol przeciągnął na swoją stronę księcia Maurycego Saskiego. W lipcu cesarz zaatakował Związek Szmalkaldzki, rozpoczynając I wojnę szmalkaldzką. Wojska związku wycofały się z południa Niemiec. Decydujące zmagania rozegrały się w Saksonii. Książę Maurycy najechał ziemie swojego krewniaka, elektora Jana Fryderyka. Elektor zebrał jednak wojska i wyparł konkurenta, sam zagrażając Lipskowi.