كان والله فقيهًا عابدًا، كان عمر بن الخطاب لا يترك الليل أبدًا، بينه وبين ربه ساعة يخلو فيها بربه، يتذلل ويدعو الله جل وعلا ويستغفر سحرًا، ويتلو كتاب ربه والناس نيام، فبعدما يرخي الليل سدوله وتغور نجومه يقوم يناجي ربه.
ذات مرة مر رسول الله صلى الله عليه وسلم ليلًا فسمع عمر وهو يقرأ في صلاته بصوت جهوري، وكان قد مر بـ أبي بكر، فسمعه يقرأ بصوت منخفض، فسأل عمر: (يا عمر! سمعتك تقرأ بالأمس بصوت جهوري! فقال: يا رسول الله! -انظروا إلى القوة في الحق، انظروا إلى الجواب البديع- أوقظ النومان وأطرد الشيطان) ، بالقوة يطرد الشيطان رضي الله عنه وأرضاه، فأمره النبي صلى الله عليه وسلم أن يخفض من صوته رضي الله عنه وأرضاه.