وبأمر من عمر بن الخطاب رضي الله عنه بعث أبو عبيدة بن الجراح إلى بطاركة إيلياء ( القدس ) وسكانها بكتابه يدعوهم فيه إلى الإيمان أو التسليم ، ودام الحصار أربعة شهور حين أبوا الاستجابة حتى ضاق أهل المدينة بالحصار ورفعوا راية الاستسلام على شروط المسلمين ، على أن يلي العهد خليفة المسلمين بنفسه ، وله تفتح أبواب القدس .
-توقف جند المسلمين عن القتال ، وأرسل أبو عبيدة برسله يبلغ الخليفة عمر رضي الله عنه بما كان فشد الخليفة العادل الرحال ومعه خادمه يتناوبان ناقة ضامرة في الركوب ، وفتحت القدس أبوابها لجند الله وعلى رأسهم أمير المؤمنين عمر بن الخطاب رضي الله عنه عام 15 هـ - 636م .
-دخل عمر بن الخطاب القدس ومعه ( صفرونيوس ) بطريك إيلياء ( القدس ) كنيسة القيامة وهناك حان وقت الصلاة وأذن مؤذن الجيش فعرض ( صفرونيوس ) على عمر أن يصلي في موضعه فأبى ( مخافة أن يتذرع المسلمون بذلك ويقيموا مكانها مسجدا ) وغادر الكنيسة إلى ساحة قريبة وصلى فيمن معه . فلما أتم صلاته أتى الصخرة المشرفة وكانت قد أهملت زمن الرومان وتجمعت عليها الأتربة فأخذ ينظفها بنفسه وحذا حذوه من كان معه . وهناك أمر عمر رضي الله عنه بإقامة مسجد فأسرع الصناع من جند الفتح ينفذون أمر عمر رضي الله عنه ويقيمون المسجد على أسرع وجه وكانت جدرانه وسقوفه من الأخشاب .
-أعطى عمر بن الخطاب رضي الله عنه أهل إيلياء ( القدس ) وثيقة الأمان المعروفة بـ ( العهدة العمرية ) أمنهم فيها على أنفسهم وأموالهم وكنائسهم وصلبانهم وقد طلبوا منه ألا يساكنهم أحدا من اليهود في المدينة فاستجاب لطلبهم وضمن ذلك في الوثيقة .
وهكذا تم فتح القدس دون إراقة الدماء ، ودون تدمير المنازل ، ودون عدوان على السكان ، وضرب عمر رضي الله عنه أعدل الامثلة واعظمها في المحافظة على حقوق غير المسلمين وممتلكاتهم و مقدساتهم .