W międzyczasie zmarł również Ludwik Niemiecki (876) i trzej bracia spotkali się w celu dokonania ostatecznego podziału ojcowskiego królestwa. Podział ten pokrywał się mniej więcej z tym dokonanym w 865, tyle że Karol otrzymał mniejszą część Lotaryngii niż to było wcześniej postanowione.
Sprawy prowansalskie Bracia rządzili zgodnie i nie dochodziło między nimi do konfliktów. W 877 Karloman uzyskał wreszcie władzę we Włoszech. Ludwik Młodszy w tym czasie podzielił Lotaryngię na trzy części, między każdego z braci. W 878 Karloman zrzekł się swojej części na rzecz Ludwika, który podzielił się nią z Karolem. W 879 chory Karloman dokonał podziału swojego władztwa między braci. Ludwik miał otrzymać Bawarię, a Karol Włochy. Od 879 datują się rządy Karola w Italii, chociaż Karloman zmarł w 880.
W 880 Karol dołączył do królów zachodniofrankijskich, Ludwika III i Karlomana II, podczas ich wyprawy na zbuntowanego króla Prowansji Bosona. Karol brał udział w oblężeniu Vienne od sierpnia do listopada, ale bez sukcesów. Prowansja od 863 podlegała królowi Włoch, którym był wówczas Karol. W 882 wysłał Ryszarda, hrabiego Autun, z zadaniem zdobycia Vienne, z którego to zadania Ryszard wywiązał się we wrześniu.