وعن ابن شوذب قال لما حضرت أبا هريرة الوفاة بكى فقيل له ما يبكيك؟ فقال بعد المفازة وقلة الزاد وعقبة كؤود المهبط منها إلى الجنة أو النار.
توفي أبو هريرة بالمدينة ويقال بالعقيق سنة سبع وخمسين وقيل سنة تسع في آخر خلافة معاوية وله ثمان وسبعون سنة رحمه الله.