W czasie podróży nauczył się angielskiego, którego potem uczył w Chinach, by się utrzymać, gdy skończyły mu się pieniądze z grantu (uczył też francuskiego). Tuż po jego przybyciu do Chin rewolucja Xinhai obaliła monarchię. Karlgren, podróżując w pojedynkę przez ogarnięty wojną domową kraj, w ciągu kilku miesięcy nauczył się chińskiego wystarczająco, by skompilować listę 3100 znaków chińskich; w ciągu następnych dwóch lat zebrał wymowę 22 języków i dialektów chińskich – 19 dialektów mandaryńskiego oraz kantońskiego, szanghajskiego i fujiańskiego; ponadto uzyskał też wymowę japońską i wietnamską do tych znaków.

Po powrocie do Europy w 1912, studiował w Londynie i w Paryżu (u H. Maspero i P. Pelliota); dysponując największą bazą dialektologiczną języków chińskich, przystąpił do historycznej rekonstrukcji starożytnego języka chińskiego. Pierwszą część tej rekonstrukcji przedstawił jako swą pracę doktorską, którą obronił w 1915 roku. Na jej podstawie, w wieku 25 lat, został profesorem Uniwersytetu w Uppsali.

W 1918 został profesorem Uniwersytetu w Göteborgu;