Talmud uczy, że kiedy Świątynia została zniszczona, wszystkie bramy do Nieba zostały zamknięte z wyjątkiem tej jednej. Kiedy muzułmanie zniszczyli Świątynię Na Skale Żydzi potrzebowali innego miejsca kultu. Nazwa Ściana Płaczu pochodzi stąd, że Żydzi przybywali tutaj aby opłakiwać zniszczenie Świątyni oraz wygnanie.
Jest uważana za pozostałość po Świątyni Salomona zniszczonej przez Tytusa w 68 roku n.e. W rzeczywistości jest to fragment ściany oporowej, wys. 15 m, na której od zachodniej strony opierał się dziedziniec świątyni wzniesionej przez Heroda Wielkiego w 20 p.n.e.
Kościół "Ojcze Nasz" stoi obok częściowo zrekonstruowanego kościoła z IV w. wzniesionego nad grotą znaną jako miejsce, gdzie Chrystus nauczył uczniów modlitwy Pater Noster. Na murze dziedzińca kościoła umieszczono tekst modlitwy w kilkudziesięciu językach.
