وحج ذات مرة، فرآه الناس وقد تعلق بأستار الكعبة يقول:"يا من يملك حوائج السائلين، ويعلم ضمير الصامتين، صلّ على محمد وعلى آل محمد، واغفر لنا ذنوبنا وكفر عنا سيئاتنا؛ يا من لا تضره الذنوب، ولا تخفى عليه العيوب، ولا تنقصه مغفرة الخطايا، صلّ على محمد وعلى آل محمد. يا من خشعت له الأصوات بأنواع اللغات، يسألونه الحاجات، إن من حاجتي إليك أن تغفر لي ذنوبي إذا توفينني، وصُيِّرت في لحدي، وتفرق عنى أهلي وولوا؛ اللهم لك الحمد حمدًا يفضل كل حمد، كفضلك على جميع الخلق؛ اللهم صلّ على محمد وعلى آل محمد صلاة تكون له رضا، وصلّ عليه صلاة تكون له ذخرًا، واجزه عنا الجزاء الأوفى. اللهم أحينا سعداء، وتوفنا شهداء، واجعلنا سعداء مرزوقين، ولا تجعلنا أشقياء مرجومين".
قال الفضل بن الربيع: حج الرشيد فبينما أنا نائم ذات ليلة إذ سمعت قرع الباب فقلت مَن هذا؟ قيل أجب أمير المؤمنين. فخرجتُ مُسرعًا فوجدت الرشيد فقلت: يا أمير المؤمنين لو أرسلت إلىَّ أتيتك. فقال ويحُك قد حاك في نفسي أمر لا يخرجه إلا عالم فانظر لي رجلًا أسألهُ عنه فقلت يا أمير المؤمنين ها هُنا سفيان بن عُيينة قال فامضِ بنا إليه فأتيناهُ فقرعنا عليه الباب فقال مَن هذا ؟ فقلت أجب أمير المؤمنين فخرج مُسرعًا وقال يا أمير المؤمنين لو أرسلت إلي لأتيتك فحادثه ساعة ثم قال له"عليك دَين؟ قال: نعم. قال يا عباس اقضِ دينه."
ثم انصرفنا فقال: ما أغنى عني صاحبُك هذا شيئًا فانظر لي رجلًا أساله، قلت ها هُنا عبد الرزاق بن هُمام واعظ العراق فقال امضِ بنا إليه نسأله فأتيناه فقرعنا عليه الباب فقال: من هذا فقلت أجب أمير المؤمنين فخرج مُسرعًا وقال يا أمير المؤمنين لو أرسلت إلى أتيتك فحادثه ساعة ثم قال لهُ: عليك دين قال نعم. قال يا عباس اقضِ عنه دينه. ثم انصرفنا فقال ما أغنى عني صاحبُك شيئًا فانظر لي رجلًا أسأله قال فقلتُ ها هُنا الفضيل بن عياض قال امضِ بنا إليه فأتيناه فإذا هو قائم يصلي يتلو آية من كتاب الله عز وجل ويرددها فقرعتُ الباب فقال من هذا؟ فقلت أجب أمير المؤمنين فقال مالي ولأمير المؤمنين فقلتُ سبحان الله أما تجِب عليك طاعته؟ فقال أو ليس قد رُوي عن النبي صلى الله عليه وسلم أنّهُ قال:"ليس لمؤمن أن يذل نفسه"؟ وفتح الباب ثم ارتقى إلى أعلى الغرفة مُسرعًا فأطفأ السراج والتجأ إلى زاوية من زوايا الغرفة فجعلنا نجول عليه بأيدينا فسبقت كفُ الرشيد إليه فقال: أُوّاهُ ما ألينها من يدٍ إن نَجَت غدًا من عذاب الله! فقلت في نفسي ليكلمنه الليلة بكلامٍ نفيس من قلب تقي. فقال حدثنا لما جئنا له.ُ قال: وفيم جئت حملت على نفسك وجميع من معك حملوا عليك حتى لو سألتهم عند انكشاف الغطاء عنك وعنهم أن يحملوا عنك شقصًا من ذنب ما فعلوا ولكان أشدهم حبًا لك أشدهم هرَبًا منك ثم قال إنّ عمر بن عبد العزيز لما وُلي الخلافة دعا سالم بن عبد الله بن عمر ومحمد بن كعب القرظي ورجاء بن حيوة وقال لهم إني قد اُبتليتُ بهذا البلاء فأشيروا عليّ فعدّ الخلافة بلاء وعددتها أنت وأصحابك نعمة.
فقال له سالم بن عبد الله: إن أردت النجاة من عذاب الله فصُم عن الدنيا وليكن إفطارك فيها على الموت.
وقال له محمد بن كعب إن أردت النجاة من عذاب الله فليكن كبير المسلمين لك أبًا وأوسطهم لك أخًا وأصغرهم لك ولدًا فبرَّ أباك وارحم أخاك وتحنن على ولدك.
وقال له رجاء بن حيوة: إن أردت النجاة غدًا من عذاب الله فأحب للمسلمين ما تحب لنفسك واكره لهم ما تكره لنفسك ثم متى شئت مُت.
وإني لأقول لك هذا وأني أخاف عليك أشدّ الخوف يوم تزلُ الأقدام فهل معك يرحمك الله مثل هؤلاء القوم يأمرك بمثل هذا؟ قال فبكى هارون الرشيد بُكاءً شديدًا حتى غَشِيَّ عليه فقلت ارفق بأمير المؤمنين فقال يا ابن الربيع قتلته أنت وأصحابك وأرفق أنا به؟
ثم أفاق فقال: زدني فقال يا أمير المؤمنين بلغني أنّ عامِلًا لعمر بن عبد العزيز شكا إليه السهر فكتب إليه عمر يقول: يا أخي اذكر سهر أهل النار في النار وخلود الآباد فيها فإن ذلك يطرد بك إلى ربك نائمًا ويقظان وإيّاك أن تزل قدمك عن هذا السبيل فيكون آخر العهد بك ومنقطع الرجاء منك والسلام. فلما قرأ كتابه طوى البلاد حتى قَدِمَ عليه فقال له عمر ما أقدمك؟ قال خلعت قلبي بكتابك لا وليت لك ولاية أبدًا حتى ألقى الله سبحانه وتعالى.