Ziemia, na której znajduje się Jerozolima, jak również samo miasto, historycznie miało wielkie znaczenie dla Żydów z powodu ważnych wydarzeń, które miały tam miejsce. Patriarcha Żydów, Abraham, został poproszony przez Boga o poświęcenie swojego jedynego syna na górze Moria, która jest w dzisiejszej Jerozolimie.
Później, w czasach Mojżesza, Bóg pomógł Mojżeszowi usunąć dzieci Izraela (Żydów) z niewoli w Egipcie, a Bóg obiecał Żydom ziemię obiecaną, płynącą mlekiem i miodem. Ci, którzy opuścili Egipt, mieli pewne kryzysy wiary, które doprowadziły do długiej podróży przez pustynię, ale ostatecznie kazano im wejść do kraju, który stał się Izraelem (a Jerozolima stałaby się stolicą). Jakiś czas po przejęciu ziemi przez dzieci Izraela, Bóg dał im króla Dawida, który umiłował Boga i chciał zbudować w Jerozolimie świątynię, w której ludzie mogliby oddawać Mu cześć. Jednak to syn Dawida, Salomon, zbuduje świątynię. Bóg przyszedł zamieszkać w tej świątyni, zwanej "Świętym Świętych". Tak jak w czasie, gdy byli w Egipcie, dzieci Izraela miały więcej kryzysów w wierze, często porzucając Boga dla lokalnych bóstw i nie przestrzegając przykazań, które dał im Bóg. W rezultacie Bóg wysłał ich do niewoli w Babilonie na 70 lat. W końcu wrócili do Jerozolimy i odbudowali świątynię, która została zniszczona. Przebudowa nie była tak ładna jak pierwotna świątynia, ale trwała do około 70 lat po narodzinach Jezusa Chrystusa, kiedy Rzymianie ją zniszczyli. Stary Testament Biblii opisuje wszystkie te i inne wydarzenia, które pokazują, dlaczego Jerozolima jest tak ważna dla Żydów.