Cesarza Wilhelma (w berlińskim Dahlem) (1918–1920) i na Uniwersytecie w Getyndze (1920–1933), gdzie kierował Instytutem Fizyki Doświadczalnej.
W roku 1933, pomimo panującego w III Rzeszy antysemityzmu i zakazu zajmowania przez Żydów stanowisk publicznych, przyznano mu – jako bohaterowi I wojny światowej – prawo pozostania na swoim stanowisku, jednak z niego demonstracyjnie nie skorzystał. Opuścił Niemcy i wyjechał do Stanów Zjednoczonych, gdzie był profesorem na Uniwersytecie Johnsa Hopkinsa (1933 i 1935–1938) oraz Uniwersytecie Chicagowskim (1938–1964). W latach 1934–1935 przebywał w Kopenhadze u Nielsa Bohra (Uniwersytet Kopenhaski).
W latach 1942–1945 uczestniczył w projekcie Manhattan, a w roku 1945 był głównym autorem dokumentu znanego jako Franck Report. Raport był sygnowany przez J. Francka, D. Hughesa, L. Szilarda, T. Hognessa, E. Rabinowitcha, G. Seaborga, J.J. Nicksona. Został skierowany w czerwcu 1945 roku do sekretarza wojny Stanów Zjednoczonych. Franck, wspierany przez grupę wybitnych fizyków, zamierzał przekonać amerykańskie władze do zapewnienia cywilnej kontroli rozwoju techniki jądrowej w Stanach Zjednoczonych, w tym do ujawnienia przed opinią publiczną informacji o pierwszej bombie atomowej przed jej zastosowaniem w wojnie przeciwko Japonii (Fat Man, Little Boy).