Podczas II wojny światowej działał w żydowskim ruchu oporu. Przebywał w krakowskim getcie, a po jego likwidacji w obozie pracy Plaszow, skąd udało mu się uciec i przedostać na Węgry – m.in. dzięki pomocy Henryka Sławika. Następnie współpracował ze Sławikiem i jego węgierskimi współpracownikami organizując dla żydowskich uciekinierów aryjskie dokumenty. Podczas tych działań Zimmerman sam musiał się ukrywać. W latach 1943–1944 pełnił funkcję przewodniczącego komitetu ds. uchodźców – najpierw w Budapeszcie, następnie w Bukareszcie. W 1944 opuścił Europę i wyemigrował do Palestyny.
W niepodległym Izraelu kontynuował działalność w ramach ugrupowania Ogólnych Syjonistów. W latach 1951–1959 był członkiem rady miejskiej Hajfy. W wyborach parlamentarnych w 1959 po raz pierwszy dostał się do izraelskiego parlamentu. Po połączeniu się Ogólnych Syjonistów z Partią Progresywną w 1961 uzyskał reelekcję z listy Partii Liberalnej. W tym samym roku zeznawał w procesie Adolfa Eichmanna. W kolejnych wyborach zdobył mandat z listy nowo powstałego bloku Gahal (czyli Liberałów i Herutu). Po raz czwarty – i ostatni – dostał się do Knesetu w 1969. W siódmej kadencji był zastępcą przewodniczącego parlamentu. W latach 1969–1982 przewodniczył organizacji Ogólnych Syjonistów.