W czasie pobytu w KL Auschwitz-Birkenau był lekarzem SS m.in. na odcinkach B II a oraz B II f, a także na terenie obozu kobiecego w Brzezince. Był jednym z najaktywniejszych uczestników selekcji przywożonych z całej Europy Żydów do obozowych komór gazowych. Zasłynął z powiedzenia określającego oświęcimski kompleks obozowy jako "odbyt świata" (Anus mundi). Thilo wielokrotnie przeprowadzał także selekcje w obozowych szpitalach i blokach, których ofiarami padały chore i niezdolne do pracy więźniarki, które mordowano następnie w komorach gazowych.
Oprócz tego dla nabycia wprawy operował wszystkich więźniów z przepukliną. Po tych zabiegach przeprowadzał pośród pacjentów selekcję i, uznając większość z nich za niezdolnych do pracy, posyłał ich do komór gazowych. Thilo operował dla wprawy także więźniarki, u których stwierdzał włókniaki lub inne guzy narządów rodnych. Wykonywał także sztuczne poronienia, najczęściej w ostatnich miesiącach ciąży. Zwykle po takim zabiegu matka umierała, a wieczorem do pieca krematoryjnego wrzucano zarówno martwe, jak i żywe noworodki.
Heinz Thilo popełnił samobójstwo w 1945.