Jerozolima jest ważna dla muzułmanów, ponieważ uważa się, że Prorok Muhammad wstąpił do nieba z Jerozolimy po tym, jak został zabrany z Mekki. Muzułmanie zwrócili się także do Jerozolimy na modlitwie zamiast do Mekki z powodu jej związku z Mojżesz, Abraham, Jezus i inni prorocy.
Według Inside Islam, Muhammad nie wierzył, że tworzy nową religię. Zamiast tego czuł, że popiera religię stworzoną przez wcześniejszych proroków. Ponieważ uważał, że islam ma tę samą linię teologiczną, co chrześcijaństwo i judaizm, Jerozolima symbolizuje związek między tymi wiarami. Muzułmanie wierzą również, że Mahomet spotkał się z prorokami z przeszłości i poprowadził ich na modlitwie w Jerozolimie, co pomogło nadać mu kontekst w ramach szerszej tradycji monoteizmu.
Muhammad powiedział, że muzułmanie powinni odwiedzić święty Meczet w Mekce, meczet w Medynie i Masjid al-Aksa, co oznacza najdalszy meczet w Jerozolimie. Pomogło to muzułmanom w nieustannym utrzymywaniu szacunku dla Jerozolimy.
Jerozolima została schwytana przez muzułmanów w 637 roku, który uczynił ją główną świątynią islamu po Mekce. Kopuła na Skale została zbudowana w mieście pomiędzy 688 a 691 r. W miejscu, gdzie muzułmanie wierzą, że Muhammad wstąpił do niebios.