Podobnie jak wielu innych weteranów akcji T4 został przeniesiony do okupowanej Polski, aby wziąć udział w eksterminacji Żydów. We wrześniu 1942 roku rozpoczął służbę w ośrodku zagłady w Bełżcu. Sprawował nadzór nad obozową rampą oraz nad „rozbieralnią”, w której Żydzi udający się do komór gazowych musieli rozebrać się do naga i oddać wszystkie wartościowe przedmioty. Wykazywał się znacznym okrucieństwem. Często na ochotnika przeprowadzał egzekucje w obozowym „lazarecie”. Po wojnie utrzymywał jednak, że otrzymał to zadanie za karę, po tym, gdy w czasie incydentu z udziałem ukraińskich strażników przypadkowo zastrzelił innego esesmana, Fritza Jirmanna (1 marca 1943).
W połowie grudnia 1942 roku obóz w Bełżcu zaprzestał przyjmowania transportów, a jego załodze powierzono zadanie wydobycia i spalenia blisko 450 tys. zwłok, które pogrzebano na terenie obozu. Gley bezpośrednio nadzorował żydowskie komando, które wykonywało tę pracę. Latem 1943 roku, po ostatecznej likwidacji ośrodka zagłady, został przeniesiony do obozu pracy dla Żydów w Poniatowej. Tam również wykazywał się dużym okrucieństwem wobec więźniów. W listopadzie 1943 roku w związku z akcją „Erntefest” wszyscy przebywający w obozie Żydzi zostali wymordowani.