Później Bergh mieszkał głównie w Sztokholmie, z wyjątkiem okresu jesień 1893 – jesień 1896, kiedy mieszkał w Varberg, tworząc razem z Kreugerem i Nordströmem Szkołę z Valberg. Bergh jeszcze podczas pobytu we Francji zainteresował się literaturą spod znaku symbolizmu. W przedstawianiu otaczającej go rzeczywistości dążył do podkreślania tego, co niematerialne. Ten literacki symbolizm charakteryzował w przeważającej części jego twórczość w okresie istnienia Szkoły Varberg. Interesował się on w mniejszym stopniu, niż jego koledzy, malowaniem pejzaży, woląc zamiast tego malować naturalistycznie oddane postacie.
Po 1905 roku Berg zamieszkał w swej rodzinnej miejscowości pod Sztokholmem. W międzyczasie wyjeżdżał za granicę; lato 1890 i 1894 roku spędził w Norwegii, zimą 1897/1898 i w 1901 roku przebywał we Włoszech (w pierwszym wypadku z księciem Eugeniuszem), a w 1898 roku był w Holandii (razem z Kreugerem). W latach 1890–1893 i 1895–1897 pracował jako pedagog we własnym studio. w latach 1905–1908 pracował też (obok Kreugera i Nordströma) jako wykładowca w trzeciej szkole prowadzonej przez Konstnärsförbundet. 5 lutego 1915 roku został szefem Nationalmuseum.