7 sierpnia 1934 uroczyście pochowano tam zmarłego marszałka Paula von Hindenburga – dowódcę wojsk pruskich spod Tannenberga, a obiekt przemianowano na Mauzoleum. W pogrzebie brał udział Adolf Hitler. 2 października 1935 trumnę ze zwłokami Hindenburga przeniesiono do specjalnie przygotowanego w jednej z wież Podwórca Honorowego (niem. Ehrenhof). Czas pomiędzy oboma pochówkami wykorzystano na przebudowę wnętrza obiektu (m.in. wzniesienie centralnego ołtarza pod monumentalnym krzyżem, zagłębienie dziedzińca celem utworzenia trybun i aranżacja krypty von Hindenburgów).
W III Rzeszy Mauzoleum stało się celem licznych wycieczek i manifestacji.
3 sierpnia 1944 w mauzoleum pochowano gen. Kortena, zmarłego wskutek obrażeń odniesionych w zamachu na Hitlera w Wilczym Szańcu. W styczniu 1945 r. Niemcy w ostatniej chwili zdążyli wywieźć szczątki von Hindenburgów. W kilka dni później pomnik został częściowo wysadzony w powietrze przez wycofujący się Wehrmacht. Nierozszabrowane resztki stały jeszcze do początku lat 50.Zdjęcie z 1953 roku, kiedy rozpoczęto definitywną rozbiórkę.