Działalność literacka i publicystyczna Welhaven był jednym z czołowych konserwatystów w norweskiej literaturze XIX wieku. Jego głównymi przeciwnikami byli ówcześni nacjonaliści, szczególnie ostro atakował zaś Henryka Wergelanda, krytykując zarówno jego poglądy jak i styl literacki. Publikował w czasopismach Vidar i Constitutionelle.
W ramach sporu z Wergelandem, Welhaven opublikował w 1834 poemat Norges Dæmring (Świt Norwegii), w którym krytykował wady narodowe Norwegów i zarzucał ograniczenie intelektualne tym wszystkim, którzy odrzucali związki kulturowe między Danią a Norwegią. Publikacja tego poematu wzbudziła kontrowersje, autorowi zarzucono brak patriotyzmu.
W latach 40, po śmierci Idy Kjerulf, twórczość Welhavena nabrała bardziej lirycznego charakteru, większość jego późniejszego dorobku stanowią poezje. Inspirowali się nimi norwescy kompozytorzy okresu romantyzmu, m.in. Edvard Grieg. W latach 50 w jego poezji bardzo często pojawiały się motywy ludowe i baśniowe, nawiązania do nordyckich sag, historii Skandynawii. W ostatnich latach swojego życia dużo czasu poświęcił badaniom nad historią literatury norweskiej i duńskiej.