W 1933 wrócił do Pragi, gdzie działał jako pedagog muzyczny, dziennikarz i tworzył dalsze kompozycje.
Po zajęciu przez Niemców Czech i Moraw został objęty restrykcjami wobec osób żydowskiego pochodzenia. W 1942 deportowano go wraz z rodziną do obozu koncentracyjnego w Theresienstadt. Także tu prowadził aktywną działalność muzyczną, pisząc dalsze dzieła muzyczne, uratowane przed zniszczeniem przez przyjaciół (m.in. operę Cesarz Atlantydy). W dniu 16 października 1944 został skierowany transportem do niemieckiego obozu koncentracyjnego Auschwitz-Birkenau, gdzie dwa dni później zginął w komorze gazowej II.
Upamiętnienie W roku 2002 założono fundację jego imienia, zajmującą się upamiętnieniem twórczości kompozytora oraz muzyków z Theresienstadt.
W roku 2009 w ramach XV Międzynarodowego Festiwalu i XIII Konkursu im. Ady Sari w Nowym Sączu odbyła się premiera jego utworu pt. Cesarz Atlantydy. Utwór ten skomponował w obozie koncentracyjnym w Terezinie. Libretto natomiast zostało napisane przez jego przyjaciela Petera Kiena. Utwór ocalał dzięki jednemu z więźniów obozu koncentracyjnego, w którym zginął Ullmann.