ثم قبل وفاة عمر عين ستة من كبار المهاجرين وكان عمر يرى أن علي بن أبي طالب أولى بالخلافة من هؤلاء الستة لكنه فضل أن يخرج من مسئولية الوصية بشخص معين وفضل أن يعين مرشحين للخلافة وجعل الأمر لهم بأن يختاروا أحدهم فكان الأمر متساويًا بين عثمان وعلي فآثر عبد الرحمن بن عوف استشارة الناس بعد تعادل كفتي علي وعثمان.
وكان من حسن حظ عثمان وسوء حظ علي أنه كان بالمدينة يومها أمراء الأمصار وأجنادهم قدموا للحج وكان هؤلاء فيمن استشارهم عبد الرحمن بن عوف ولا ريب أن معظم هؤلاء يفضل سياسة عثمان المتسامحة على سياسة علي الصارمة فكان أكثر الناس يومئذٍ على اختيار عثمان، ومع ذلك كأنَّ عبد الرحمن بن عوف أدرك هذا وخشي إن تولى عثمان أن (يحمل بني أمية على رقاب الناس) لما يعرفه من لين عثمان وكرمه وحبه لقومه (بني أمية) فذهب ابن عوف إلى اشتراط شرط آخر -إضافة لشرط العمل بالكتاب والسنة- وهو (العمل بسيرة الشيخين أبي بكر وعمر) وكان عبد الرحمن بن عوف يريد من هذا الشرط أن يتذكر الوالي الجديد سيرة أبي بكر وعمر اللذين لم يوليا أحدًا من أقاربهما، فكأنه يريد إبراء ذمته بأخذ هذا العهد.