أيضًا رأى سهلَ بنَ سعد، الشاهد أنه طلبَ العلمَ صغيرًا حتى قالَ فيه الإمامُ أحمدُ: لا أعلمُ أحدًا منَ التابعين قولُه حُجَّةٌ إلا عمر بن عبد العزيز. لهذه الدرجة!!
الرَّجل بلغَ منَ العلم شأنًا عظيمًا، فكانَ يُشارُ إليه بالبنان بالعلم، حتى إنَّ الإمامَ الزُّهريَّ رحمه الله تعالى دخلَ على عمرَ بعد أنْ وصلَ إلى كرسي الخلافة فحدَّثه ببعض الحديث، فقالَ عمرُ بنُ عبد العزيز: كلّ ما حدَّثتني به فإني أعرفُه و لكنْ شغلني الملكُ .. الحكم.
عمر بن عبد العزيز مرَّت هذه السنواتُ سريعةً في حياتهِ حتى كانتْ سنة ستٍّ و ثمانين منَ الهجرة في خلافة الوليد بن عبد الملك، فعيَّن الوليدُ بنُ عبد الملك ... عمرَ بنَ عبد العزيز واليًا على المدينة، إذْ ترَّبى فيها و نشأ فيها و عرفَ أهلَها، فجعلَه واليًا على المدينةِ.
ففي هذا الوقت الذي تولَّى فيه عمرُ بنُ عبد العزيز المدينةَ المنوَّرةَ، وقعَ ما تعرفون منْ توسعةِ مسجدِ النبيِّ صلَّى الله عليه و سلَّم حتى دخلَ القبرُ المسجدَ، فكانَ ذلك في حكم الوليد بن عبد الملك في إمارة عمر بن عبد العزيز، لما وُسِّع المسجد النبويّ الشريف عند ذلك دخلَ بيتُ النبيِّ صلَّى الله عليه و على آله و سلَّم في المسجد، فصارَ قبرُه كما هو معلومٌ إلى يومِنا هذا داخلًا مسجدهِ صلواتُ الله و سلامُه عليه.
أوَّل ما وصل عمر بن عبد العزيز إلى كرسي الإمارة - يعني إمارة المدينة - دعا عُلماءَ المدينة عروة بن الزبير، و عبيد الله بن عبد الله بن عتبة، و سالم بن عبد الله بن عمر، و سليمان بن يسار، و القاسم بن محمد بن أبي بكر الصديق و غيرهم،