وقد تبين لعبد الرحمن من وراء بحثه أن الناس لا يقدمون أحدا تقديمهم لزعيمين من الصحابة من أهل الشورى وهما علي وعثمان، فلما استقر رأيه على اختيار واحد منهما ثارت في وجهه مسائل جديدة أولها المنافسة القديمة بين بيتي قريش: وهما بيت هاشم، وبيت أمية، وثانيهما ما كان في بيت هاشم من الاعتقاد بأن لهم الحق في الأمر لقرابتهم من رسول الله عليه الصلاة والسلام وخشي إذا هو اختار عليا أن يحمل ذلك على أنه إنما اختاره لقرابته من الرسول لا لفضله وصفاته السامية، فكان في أمره في حيرة شديدة، وخرج منها على أن يطرح على المرشحين سؤالًا يكون بمثابة استطلاع لبرنامج كل منهما إذا هو ولى الحكم. فجمع الناس في المسجد وعرض سؤاله فقال: (هل أنت مبايعي على كتاب الله وسنة نبيه وفعل أبى بكر وعمر؟) فرأى علي أن معنى ذلك تقييده فوق كتاب الله وسنه الرسول بفعل خليفتي المسلمين قبله. ورأى أنه لا يحسن به أن يقيد نفسه بغير الكتاب والسنة تاركًا لنفسه بعد ذلك الاجتهاد والنظر وإن خالف رأي صاحبيه. وكانت أجابته على ذلك أن قال: (اللهم لا ولكن على جهد من ذلك وطاقتي) وأما عثمان فانه قال: (اللهم نعم) وكان عبد الرحمن ممن يرون اتباع السلف فيما ساروا عليه منذ كانوا في ذلك مجتهدين، ومنذ دلت الحوادث على حسن سياستهم فيه وسلامة عاقبة حكمهم. فرأى اختيار عثمان ورفع رأسه إلى سقف المسجد ويده في يد عثمان ثم قال: (اللهم اسمع واشهد. اللهم أني جعلت ما في رقبتي من ذاك في رقبة عثمان) وازدحم الناس بعد ذلك على الخليفة عثمان يبايعونه.

فخرجت الأمة الإسلامية من ذلك الموقف بسابقة جديدة منظمة تنظيمًا كبيرًا صالحة لأن تكون أساسا لنظام وافٍ صالح لاختيار الخلفاء، ففيه نواة الانتخاب العام، وفيه نواة النظر والموازنة بين المرشحين، وفيه نواة إدخال جميع العرب حق الاختيار، سواءًا أكانوا من أهل المدينة أم من أهل جزيرة العرب أم من أمصار البلاد المفتوحة. وفيه فوق كل ذلك نواة لرسم خطة للحكم يسأل عنها الخليفة قبل توليته، ويكون اختياره بعد الإفصاح عنها والتصريح بها وبذلك يكون عليه الوفاء بما تعهد به من الشرط قبل استخلافه.

ولم يبطئ العرب فيتلقف هذه الحقوق ولم يتهاونوا في المطالبة به في عهد عثمان ولم يترددوا في الثورة عندما رأوا أن خليفتهم لم يف بما تعهد به.