ومضى الزمان وجاء عهد عثمان وأقام أبو ذر في الربذة، فلما حضرته الوفاة أوصى امرأته وغلامه: إذا مت فاغسلاني وكفناني ثم احملاني فضعاني على قارعة الطريق، فأول ركب يمرون بكم فقولوا: هذا أبو ذر.
فلما مات فعلوا به كذلك، فطلع ركب فما علموا به حتى كادت ركائبهم تطأ سريره، فإذا ابن مسعود في رهط من أهل الكوفة، فقال: ما هذا ؟ فقيل: جنازة أبي ذر، فاستهل ابن مسعود يبكي، وقال صدق رسول الله صلى الله عليه وسلم فقد قال: «يرحم الله أبا ذر يمشي وحده ويموت وحده ويبعث وحده» فغسلوه وكفنوه وصلوا عليه ودفنوه، فلما أرادوا أن يرتحلوا قالت لهم ابنته: إن أبا ذر يقرأ عليكم السلام