هاجر أبو بكر نزل عليه في داره وتزوج ابنته ابنة خارجة وكان لها زوج يقال له سعد فقتل أبوه وأخوه سعد بن خارجة يوم أحد فمكث بعدهم حياة النبي صلى الله عليه وسلم وخلافة أبي بكر وعمر وسنين من خلافة عثمان فبينا هو يمشي في طريق من طرق المدينة بين الظهر والعصر إذ خر فتوفي فأعلمت به الأنصار وأتوه فاحتملوه إلى بيته فسجوه كساء وبردين وفي البيت نساء من نساء الأنصار يبكين عليه ورجال من رجالهم فمكث على حاله حتى إذا كان بين المغرب والعشاء الآخرة سمعوا صوتا قائلا يقول أنصتوا فنظروا فإذا الصوت من تحت الثياب فحسروا عن وجهه وصدره فإذا القائل يقول على لسانه محمد رسول الله صلى الله عليه وسلم النبي الأمي خاتم النبيين لا نبي بعده كان ذلك في الكتاب الأول ثم قال القائل على لسانه صدق صدق صدق ثم قال أبو بكر خليفة رسول الله الصديق الأمير الذي كان ضعيفا في جسده قويا في أمر الله كان ذلك في الكتاب الأول ثم قال القائل على لسانه صدق صدق صدق ثم قال الأوسط أجلد القوم الذي كان لا يخاف في الله لومة لائم الذي كان يمنع الناس أن يأكل قويهم ضعيفهم عند الله عمر أمير المؤمنين كان ذلك في الكتاب الأول ثم قال القائل على لسانه صدق صدق صدق ثم قال عثمان أمير المؤمنين وهو رحيم بالمؤمنين وهو يعافي الناس في ذنوب خلت ليلتان جعلت السنين لثلاثين وبقيت أربع سنين ولا نظام لها وأبيحت الأحماء ودنت الساعة وأكل الناس بعضهم بعضا ثم ارعوى المؤمنون وقالوا يا أيها الناس كتاب الله وقدره فأقبلوا على أميركم فاسمعوا له وأطيعوا فإنه على منهاجكم فمن تولى بعد ذلك فلا يعهدن دما كان أمر الله قدرا مقدورا مرتين ثم قال هذه النار وهذه الجنة وهؤلاء النبيون والشهداء السلام عليكم يا عبد الله بن رواحة أحسست لي خارجة وسعدا لأبيه وأخيه اللذين قتلا يوم أحد قال { كلا إنها لظى نزاعة للشوى تدعو من أدبر وتولى وجمع فأوعى } ثم قال هذا رسول الله السلام عليك يا رسول الله ورحمة الله وبركاته قال النعمان فقيل لي إن زيد بن خارجة قد تكلم بعد موته فجئت أتخطى رقاب الناس فقعدت عند رأسه