المسجد الأقصى القديم يقع تحت المسجد الأقصى الحالي في الجهة الجنوبية، وهو مغلق منذ مدة طويلة، ودعي بهذا نسبة إلى أول بقاع المسجد الأقصى المبارك بناءه؛ إذ يعود بناؤه إلى عهد آدم عليه السلام في الراجح من الأقوال المأثورة. (انظر فتح الباري لابن حجر 6/ 471) .

ويعتبر ثاني مسجد بني في الأرض، أي: بعد المسجد الحرام بمكة المكرمة. وهذا ما دل عليه حديث رسول الله محمد صلى الله عليه وسلم، الذي رواه عنه الصحابي الجليل أبو ذر الغفاري رضي الله عنه: قال قلت:"يا رسول الله أي مسجد وضع في الأرض أولًا؟ قال: المسجد الحرام قلت: ثم أي؟ قال: المسجد الأقصى قلت: كم بينهما؟ قال: أربعون سنة وأينما أدركتك الصلاة فصل فإنه مسجد". أخرجه البخاري برقم (3366 - 3425) ومسلم برقم (520) .

بقي هذا المسجد يمر في مرحلة مد وجزر وبناء وهدم منذ أول إنشائه وحتى إسراء الرسول صلى الله عليه وسلم إليه.

وبعد فتح المسلمين لمدينة بيت المقدس في عهد عمر بن الخطاب رضي الله تعالى عنه أخذ المسلمون بإنشاء البنايات والمساجد في أرض المسجد الأقصى عامة ففي ساحة المسجد الأقصى القديم أنشىء مسجد عمر بن الخطاب رضي الله عنه، وكان يتسع لثلاثة آلاف مسلم، وفي عهد الأمويين تم إنشاء المباني الضخمة والجميلة، ومن جملة أبنيتهم الأقصى القديم - أسفل المسجد الأقصى الحالي - والمبنى المعروف الآن من فوقه.

ولعل المسلمين استغنوا عن الصلاة فيه لوجود أماكن صلاة بديلة عنه كمبنى المسجد الأقصى القائم الآن، وقبة الصخرة التي أقيمت في عهد عبد الملك بن مروان على أرجح الأقوال، وغيرها من المباني التي أنشئت في فترات لاحقة.

ونتيجة للمصائب المتكررة التي نزلت بالمسجد الأقصى المبارك منذ نهاية العهد العثماني في البلاد استُعمل المكان كمخزن لبعض ممتلكات المسجد الأقصى المبارك عامة وخاصة بقايا منبر نور الدين الذي أحرق سنة 1967م.