Po długotrwałych poszukiwaniach miejsca i korzystnej ekspertyzie wydanej przez cesarski Instytut Geologiczny w 1869 ostatecznie gmina Wiedeń zakupiła działki na terenie wsi Kaiserebersdorf i Simmering. W 1870 ogłoszono konkurs na urządzenie cmentarza – który wygrał zespół pochodzących z Frankfurtu architektów: Karla Jonasa Myliusa i Alfreda Friedricha Bluntschliego. Według ich projektu po zaledwie trzech latach budowy (1871–1874) zbudowano nowe „miasto umarłych” w Wiedniu.
Historia Przy podjęciu decyzji w 1863 o budowie Centralnego Cmentarza określono jego międzywyznaniowy charakter, a także możliwość stworzenia na jego terenie oddzielnych sektorów poszczególnych wspólnot religijnych. Decyzje te budziły sprzeciw dostojników Kościoła katolickiego, ale ostatecznie status cmentarza został przez nich zaakceptowany, a nawet 30 października 1874 odbyło się uroczyste poświęcenie części cmentarzaHedwig Abraham Guide, Geschichte des Wiener Zentralfriedhofes – Kunst und Kultur in Wien, online [17.12.2019].. Pierwszy pogrzeb odbył się na nim 1 listopada 1874 (zachował się grób pochowanego wówczas Jakoba Zelzera). Cmentarz od momentu powstania był siedem razy przebudowywany.