وكدأب المسلمين في فتوحاتهم، وجه أبو عبيدة رسالة لأهل القدس خيرهم فيها بين الدخول في الإسلام، أو دفع [7] الجزية، أو القتال. فكان أن رفض بطريركها صفرونيوس ـ الذي تولى قيادتها بعد فرار بطريكها إلى مصر على إثر معركة أجنادين - رفض طلب أبي عبيدة، وتحصن بالمدينة آملا في وصول إمدادات ونجدات رومية إليه، خصوصًا وهو يعلم أهمية القدس لدى الروم النصارى، وظنًا منه أن المسلمين لن يستطيعوا تحمل برد القدس الشديد، مما سيضطرهم لفك الحصار عندما يشتد البرد.
وهنا تبدو مرة أخرى مقدرة المسلمين على تخطي الشدائد، فتحملوا بتجهيزاتهم البسيطة، برد القدس الشديد وأمطارها الغزيرة، ولاقوا من ذلك عنتًا كبيرًا ولكن لم يفت في عزيمتهم ولم يفكروا في فك الحصار.
وعند حلول فصل الربيع، رأي صفرونيوس أن ما توقعه لم يحدث، فلا الروم أنجدوه، ولا البرد أجبر المسلمين على فك الحصار. فلم يجد بدًا من عرض التسليم على أبي عبيدة، ولكنه اشترط أن يحضر الخليفة بنفسه من المدينة المنورة [8] ليتسلم القدس ويعطي أهلها عهدًا، وذلك لما كان يسمعه عن الخليفة عمر بن الخطاب من عدالة، ورفق، ووفاء بالعهد.
ورغم أن بعض قادة أبي عبيدة قد أشاروا عليه بمناجزة أهل القدس حتى يجبروهم على الاستسلام، إلا أن ما رآه أبو عبيدة من شدة ما قاساه المسلمون من البرد، وما قاساه أهل القدس من الحصار الذي طال أمده، دفعه لأن يكتب للخليفة، يخبره بأحوال المسلمين والنصارى، وبما عرضوه عليه من تسليم المدينة [9] للخليفة شخصيًا، وأشار عليه بالحضور لأن في ذلك حقنًا لدماء المسلمين.