Zespołem obozów Auschwitz-Birkenau dowodził do 1 grudnia 1943 i stworzył tam gigantyczną machinę eksterminacji. Jak sam szacował w 1947, co najmniej 2,5 miliona ofiar rozstrzelano tam i eksterminowano przez gazowanie i spalenie, a co najmniej kolejne pół miliona zmarło z głodu i chorób. W sumie około 3 milionów osób. Według naukowców liczba ofiar zmarłych i zamordowanych w KL Auschwitz-Birkenau była jednak niższa. Od 1 grudnia 1943 był szefem Urzędu Amtsgruppe D – Konzentrationslager I w Głównym Urzędzie Gospodarki i Administracji SS w Berlinie (SS-Wirtschafts- und Verwaltungshauptamt).
Po zakończeniu wojny Rudolf Höß ukrywał się pod fałszywym nazwiskiem, ale 11 marca 1946 został zatrzymany pod Flensburgiem przez członków 92., 93. i 318. oddziału brytyjskiej Żandarmerii Polowej. Był świadkiem na procesach zbrodniarzy wojennych w Norymberdze. 25 maja 1946 został ekstradowany do Polski.
Był sądzony przez Najwyższy Trybunał Narodowy w Warszawie.