حينئذ أحس عمر بن عبد العزيز أنه هو الذي استقر رأي سليمان علي ترشيحه للخلافة ، فذهب إلي رجاء بن حيوة وقال له: أنشدك الله وحرمتي ومودتي أن تعلمني إن كان كتب لي ذلك - الخلافة - حتى أستعفيه منها قبل أن يأتي حال لا أقدر فيه علي ما أقدر عليه الآن. لكن رجاء رفض بإصرار أن يطلع عمر علي شيء مما كتبه سليمان في عهده المختوم . ثم جاء هشام بن الملك إلي رجاء فقال له: يا رجاء إن لي بك حرمة ومودة قديمة، فأخبرني عن هذا الأمر - الخلافة - إن كانت إليّ علمت وان كان لغيري نظرت ما يمكنني عمله ، فما مثلي يفوته هذا .. ورفض الوزير الأمين أن يطلع شقيق الخليفة أيضا علي شيء . وعندما صعدت روح سليمان بن عبد الملك إلي الملأ الأعلى ، جاء كعب بن حامد صاحب الشرطة ورجاء بن حيوة فجمعا الناس في المسجد الكبير بدابق وأخذا البيعة مرة ثانية لمن في الكتاب. تغيرت وجوه بني مروان عندما قرأ عليهم رجاء بن حيوة عهد سليمان بن عبد الملك إلي عمر بن عبد العزيز . وغضب هشام بن عبد الملك وكان أكثر إخوته طمعا في الخلافة ، وأعلن رفضه مبايعة عمر بن عبد العزيز.
نهره رجاء بن حيوة رضي الله عنه ، وقال له بحزم:"أضرب عنقك والله .. قم فبايع".. وهدأ الباقون عندما سمعوا أن ولاية العهد ليزيد بن عبد الملك ، فقاموا جميعا ليبايعوا عمر بن عبد العزيز .. كان عمر رضي الله عنه جالسا في مؤخرة المسجد مشفقا يرتجف مما يسمع.