W 1952 został mianowany ambasadorem w ZSRR, ale już w październiku tego samego roku utracił stanowisko po skandalu dyplomatycznym, jaki wywołała jego wypowiedź odebrana jako porównanie ZSRR do nazistowskich Niemiec. Jego następcą na stanowisku ambasadora w Moskwie był Charles Bohlen.
W 1953 odszedł ze służby dyplomatycznej i podjął pracę w Princeton, w Instytucie Studiów Wyższych (Institute for Advanced Study). Prowadził tam wykłady i publikował wiele prac dotyczących polityki międzynarodowej, m.in. wyróżnioną Nagrodą Pulitzera książkę Russia Leaves the War (1956). W latach 1961–1963 był ambasadorem amerykańskim w Jugosławii. W 1976 otrzymał Pour le Mérite za Naukę i Sztukę. W 1982 został laureatem Nagrody Pokojowej Księgarzy Niemieckich.