Biblia opisuje jak król Dawid kupił klepisko od Jebuzytów, a dokładnie od Arauny (2 Samuela 24,18–25) z przeznaczeniem pod budowę Świątyni. Dawid planował wybudować świątynię, jednak ponieważ prowadził zbyt wiele wojen, pracę tę wykonał dopiero jego syn, Salomon (w 930 p.n.e.). Tora odnotowuje, że Bóg okazywał swoją obecność w świątyni w postaci Szechina. Około 586 p.n.e. Babilończycy zdobyli Jerozolimę, burząc Świątynię Salomona, natomiast w 70 roku Rzymianie zburzyli Drugą Świątynię. Zachodni Mur (, ha-Kotel ha-Ma’arawi) jest częścią Wzgórza Świątynnego, ocalałym fragmentem Drugiej Świątyni. Ten fragment muru jest szczególnie ważny dla Żydów ze względu na jego lokalizację - blisko miejsca najświętszego w świątyni. Z powodu religijnych ograniczeń judaizmu dotyczących zakazu wchodzenia do miejsca najświętszego Świątyni, wielu Żydów nie wchodzi na Wzgórze Świątynne i ogranicza modlitwy do Ściany Płaczu. Żydzi wierzą, że modlitwy napisane na kartkach i pozostawione w pęknięciach Ściany są wysłuchiwane przez Boga.
Religijni Żydzi twierdzą, że w przyszłości Trzecia Świątynia zostanie wybudowana na tym wzgórzu. Dla laickich Żydów Wzgórze Świątynne jest znaczącym symbolem narodowym. Przejęcie w 1967 r.