لما أدرك المسلمون الأوائل أهمية بيت المقدس، وأنه أولى القبلتين، وثالث المساجد التي تُشد إليها الرحال، ولما أيقنوا بأهمية بيت المقدس، وأنه أسري بالنبي صلى الله عليه وسلم إليه، ومنه عُرج به إلى السماء، وفيه أمَّ النبي عليه الصلاة والسلام الأنبياء عليهم أفضل الصلاة والسلام، ولما يتميز به بيت المقدس من موقع جغرافي هام، لما أدركوا ذلك عزموا على تطهيره من قوى الشرك التي سيطرت عليه إبان ذاك، فتم فتح بيت المقدس في عهد الخليفة الراشد عمر بن الخطاب رضي الله عنه، وتم الفتح بدون قتال، حيث قبل الصليبيون بالصلح على أن يحضر الخليفة عمر هذا الصلح، فسار حتى وصل بيت المقدس، فصالح النصارى على إخراج الروم خلال ثلاثة أيام ثم دخل المسجد من حيث دخل رسول الله صلى الله عليه وسلم يوم الإسراء، وصلى فيه مع المسلمين.

وهكذا بقي بيت المقدس تحت الحكم الإسلامي إلى العهد العباسي، فلما دب الضعف في تلك الدولة بسبب التفكك والفتن السياسية، مما جعل الفاطميين يثنون رقابهم للصليبين، وتعاونوا معهم للقضاء على السلاجقة والدولة العباسية، لأنهم كانوا يعتبرونهم أعداءً لهم، ولكن غدر بهم الصليبيون، فسيطروا على القدس، وقاموا بعمليات ومذابح ومجازر بشعة في كل المدن التي فتحوها، ولم يفرقوا بين أحد، وقد بلغت تلك المجازر أوجها وذروتها في القدس نفسها، حيث قتلوا المسلمين وقطعوا أطرافهم، وألقوهم على الأسوار، وتم سقوط القدس في يد الصليبين عام 492 هـ وبقي حتى عام 583 هـ.