Absolwent Uniwersytetu Lwowskiego, gdzie także obronił doktorat z filozofii w 1926 oraz pracował jako asystent paleontolog. Był docentem na Wydziale Matematyczno-Przyrodniczym Uniwersytetu Jana Kazimierza we Lwowie. Habilitację uzyskał w 1937, a tytuł profesora w 1940. Głównym tematem badawczym Zycha były dewońskie ryby pancerne i bezżuchwowce, które badał na Podolu.
Po wybuchu II wojny światowej działał w podziemiu (pseudonimy: Szary, Dr Falko, Marian Czerkawski) i był przedstawicielem Delegatury Rządu RP na obszar lwowski. Działał w komendzie ZWZ we Lwowie. W 1943 został aresztowany przez Niemców i wysłany do obozu Auschwitz-Birkenau, a następnie do Dachau, w którym przebywał do końca wojny. mały|190px|Nagrobek Józia Zycha na cmentarzu miejskim w BuczaczuPo wojnie nie wrócił do zawodu z powodu utraty zdrowia w obozach. Pozostał na emigracji, mieszkał w Walii, w Hereford, gdzie był wychowawcą młodzieży, działał w polskim harcerstwie, prowadząc stanicę.
Zmarł 22 maja 1981 w szpitalu w Chepstow. Został pochowany na cmentarzu w Hereford.
Publikacje Old-Red podolski. Prace PIG, 1927, 2 (1) Fauna ryb dewonu i downtonu Podola. Pteraspidomorphii: Heterostraci. 1931, Lwów. Cephalaspis kozlowskii n.sp. z downtonu Podola. Arch.