وقد حج رضي الله عنه بالناس سنة 97 هـ ، فعجب لكثرة الحجيج ، وقال لعمر بن عبد العزيز:ألا تري هؤلاء الحجّاج الذين لا يحصي عددهم إلا الله ولا يسع رزقهم غيره؟! فقال له عمر: يا أمير المؤمنين هؤلاء رعاياك اليوم، وهم خصماؤك غدا أمام الله تعالي. فبكي سليمان بحرارة وقال: بالله استعين.
ثم خرج سليمان بن عبد الملك إلي مرج دابق بعد خروج جيش أخيه مسلمة بن عبد الملك لفتح القسطنطينية وتأديب الرومان الذين غدروا بجانب من جيش المسلمين ، وأوهموهم بالمصالحة والأمان، ثم قتلوا عددا منهم وأسروا الباقين. وأقسم سليمان ألا يرجع إلي دمشق حتى يفتح الجيش مدينة القسطنطينية أو يقبضه الله إليه قبل ذلك . وشاء القدر أن تتحقق الثانية، إذ أصيب سليمان بالحمى وأحس أسفا باقتراب أجله قبل أن يأتي خبر النصر.
وجاء إليه الوزير الصدوق رجاء بن حيوة فسأله سليمان: لمن يعهد بأمر المسلمين؟ أجاب رجاء: إن مما يحفظ الخليفة في قبره أن يولّي علي المسلمين رجلا صالحا. قال سليمان: ما تقول في ابني داود ؟ أجاب رجاء: إنه غائب عنك - كان في جيش مسلمة الذي توجه لفتح القسطنطينية - ولا ندرى هل حي أو ميت .. عاد سليمان يرشح ابنا له صغيرا لم يبلغ الحلم فعارضه رجاء بن حيوة حتى صرفه عن ذلك . سأله سليمان: ما تري في عمر بن عبد العزيز؟