لما فرغ أبو عبيدة من دمشق كتب إلى أهل إيليا يدعوهم إلى الله وإلى الإسلام أو يَبْذُلون الجزية أو يُؤذنون بِحَرْب ، فأبَوا أن يجيبوا إلى ما دعاهم إليه ، فركب إليهم في جنوده واستخلف على دمشق سعيد بن زيد ، ثم حاصر بيت المقدس وضيّق عليهم حتى أجابوا إلى الصلح بشرط أن يقدم إليهم أمير المؤمنين عمر بن الخطاب ، فكتب إليه أبو عبيدة بذلك ، فاستشار عمر الناس في ذلك فأشار عثمان بن عفان بأن لا يركب إليهم ليكون أحقر لهم وأرغم لأنوفهم ، وأشار علي بن أبي طالب بالمسير إليهم ليكون أخفّ وطأة على المسلمين في حصارهم بينهم ، فهوى ما قال علي ، ولم يَهوَ ما قال عثمان ، وسار بالجيوش نحوهم ، واستخلف على المدينة علي بن أبي طالب وسار العباس بن عبد المطلب على مقدمته ، فلما وصل إلى الشام تلقاه أبو عبيدة ورؤوس الأمراء كخالد بن الوليد ويزيد بن أبي سفيان ، فترجّل أبو عبيدة وترجّل عمر ، فأشار أبو عبيدة ليُقَبِّل يَدَ عُمر ، فهمّ عمر بتقبيل رجل أبي عبيدة فكفّ أبو عبيدة فكفّ عمر ، ثم سار حتى صالح نصارى بيت المقدس ، واشترط عليهم إجلاء الروم إلى ثلاث ، ثم دخلها .
فأنت ترى أن عمر رضي الله عنه استشار علي بن أبي طالب رضي الله عنه وأخذ برأيه ، ثم استخلفه على المدينة حينما خَرَج إلى بيت المقدس .
فلو كان عليّ رضي الله عنه يَرى أنه أحق بالخلافة أو أنه لم يُبايِع هل كان يُشير بمثل هذا ، أو يتولّى أمرًا كهذا ؟!
كيف يرضى أن يَخلِف من ليس بخليفة ؟!
وهذا يُشير إلى المودّة التي كانت بين عمر وبين عليّ رضي الله عنهما .
أخرج ابن أبي شيبة من طريق أبي السفر قال: رُئي على عليّ بُرد كان يكثر لبسه . قال فقيل له: إنك لتكثر لبس هذا البرد . فقال: إنه كسانيه خليلي وصفيي وصديقي وخاصّي عمر . إن عمر ناصح الله فنصحه الله ، ثم بكى .
وأقطَع عمرُ عليًا ينبع .