W 922 uczestniczył w rewolcie przeciw królowi Francji Karolowi III Prostakowi, która go obaliła. Uczestniczył po stronie Roberta I w przegranej przez byłego monarchę bitwie pod Soissons 15 czerwca 923. Dzięki jego podstępowi (udawał chęć osobistego spotkania) Karol został ujęty w Château-Thierry, gdy szukał poparcia u wikingów (prawdopodobnie o intrydze wiedział nowy władca Rudolfa). Herbert II przetrzymywał byłego króla najpierw w twierdzy Saint-Quentin, a od 927 roku w Péronne aż do jego śmierci w 929. Był nieufny wobec Rudolfa i powiększał swoje tereny kosztem jego domeny, stając się jedną z najpotężniejszych postaci ówczesnej Francji.
W 922 roku arcybiskup Reims Seulf obiecał Herbertowi, że zatwierdzi on jego następcę na tym stanowisku w zamian za pomoc w odzyskaniu przynależnych biskupowi ziem. Po jego śmierci w 925 roku Herbert obsadził na stanowisku swego pięcioletniego wówczas syna Hugo. Wysłał w 926 roku emisariuszy do papieża Jana X, którzy podtrzymali Hugo na stanowisku. Wkrótce potem ojciec wysłał go na nauki do Auxerre, a rzeczywistą władzę sprawował biskup Abbo z Soissons.