W 1951 zamieszkał w Warszawie, gdzie objął stanowisko kierownika Katedry Chemii Fizjologicznej Akademii Medycznej oraz rozpoczął organizację Działu Biochemii Państwowego Zakładu Higieny w Warszawie. Dwa lata później był założycielem Zakładu Biochemii Polskiej Akademii Nauk, który w 1957 został przekształcony w Instytut Biochemii i Biofizyki, a prof. Józef Heller piastował w nim stanowisko dyrektora. W 1967 przeszedł w stan spoczynku, ale nadal pełnił funkcję przewodniczącego Rady Naukowej.
Przez wiele lat był redaktorem serii biologicznej „Biuletynu Polskiej Akademii Nauk” oraz „Postępów Biochemii”, był twórcą haseł dotyczących biochemii w Wielkiej Encyklopedii Powszechnej PWN. Pełnił funkcję pierwszego przewodniczącego Komitetu Biochemicznego PAN.
W 1951 otrzymał Nagrodę Państwową II stopnia.
Był żonaty z Antonią z Mokłowskich (1895–1978), z którą miał cztery córki: Janinę Wandę, Zofię, Marię (1928–2008) i Jadwigę (1938–1977).
Zmarł w Warszawie, pochowany na cmentarzu komunalnym Północnym (kwatera W-VII-4-13-5/6).