Decyzją władz RP na uchodźstwie (ministra RP na emigracji) w 1945 otrzymał awans na stopień podpułkownika. Działał także w ramach Ruchu Oporu Armii Krajowej (ROAK) i Delegatury Sił Zbrojnych na Kraj.
thumb|Opaska na ramię Armii Krajowej, należąca do płk. Zygmunta Żyłki-Żebrackiego W czasie trwającej wojny i okupacji niemieckiej Zygmunt Żyłka-Żebracki nie wydawał wyroków śmierci oraz rozkazów pozbawiania życia kogokolwiek. Także wobec swoich podwładnych stosował zasadę, wedle której dawał możliwość poprawy i naprawienia wyrządzonej krzywdy. Po latach określił swoją postawę słowami:
21 marca 1945 został aresztowany przez NKWD w praskiej dzielnicy Warszawy podczas odprawy. Był przetrzymywany w aresztach w Warszawie, siedzibie NKWD w Lublinie przy ul. Chopina i na zamku w Lublinie i w tym czasie brutalnie traktowany. W wyniku ogłoszonej amnestii, jednak bez przeprowadzonej rozprawy sądowej, 16 marca 1946 wyszedł na wolność i miesiąc później rozpoczął ponownie działalność konspiracyjną. Przystąpił do Zrzeszenia „Wolność i Niezawisłość”, w ramach którego został szefem wywiadu Komendy Okręgu Lublin.