W uznaniu za służbę papież Innocenty IV 14 marca 1249 powierzył mu funkcję nuncjusza apostolskiego na Niemcy. Pięć dni wcześniej umarł Zygfryd III z Eppstein, arcybiskup Moguncji, który piastował tę funkcję. Duchowieństwo i mieszczanie Moguncji pragnęli, żeby Konrad został też ich nowym arcybiskupem, ale papież stanowczo odmówił, nie chcąc, by dwa najważniejsze stanowiska kościelne w Niemczech pełnił jeden człowiek. W wyniku tej decyzji przyjazne dotychczas relacje pomiędzy Konradem a papieżem uległy pogorszeniu i w kwietniu 1250 urząd nuncjusza został przekazany Pierre de Colmieu, biskupowi Albano.
Książę elektor Arcybiskup Kolonii był automatycznie elektorem Rzeszy. Kiedy papież Innocenty IV zdetronizował Fryderyka II (17 lipca 1245), to głównie poparciu Konrada kandydat papieża landgraf Turyngii Henryk Raspe został wybrany na króla Niemiec.
Niedługo, po krótkim, trwającym siedem miesięcy panowaniu umarł Henryk (17 lutego 1247), poparcie Konrada zapewniło z kolei koronę młodemu Wilhelmowi z Holandii. Ale król Wilhem popierał Reński Związek Miast, który zagrażał pozycji Kolonii. Kilka lat później wrogość pomiędzy Konradem a Wilhelmem przerodziła się w otwarty konflikt.