وأحسن مرثية قول أوس بن حجر الكندي:
أيتها النفس أجملي جزعا ... إن الذي تحذرين قد وقعا
خرج أبو ذؤيب مع ابنه وابن أخ له يقال له أبو عبيد حتى قدموا على عمر بن الخطاب فقال له: أي العمل أفضل يا أمير المؤمنين؟ قال: إيمان بالله ورسوله؛ قال: قد فعلت فأيه أفضل بعده؟ قال: الجهاد في سبيل الله؛ قال: ذلك كان عملي، فلا أرجو جنة ولا أخاف نارًا؛ ثم خرج فغزا الروم مع المسلمين. فلما قفلوا أخذه الموت، فأراد ابنه وابن أخيه أن يتخلفا عليه جميعًا، فمنعهما صاحب الساقة وقال: ليتخلف عليه أحدكما وليعلم أنه مقتول. فاتكلا بينهما من يتخلف عليه، فقال لهما أبو ذؤيب: اقترعا، فطارت القرعة لأبي عبيد، فتخلف عليه ومضى ابنه مع الناس. فكان ابن أخيه يحدث قال: قال لي أبو ذؤيب: يا أبا عبيد احفر ذلك الجرف برمحك، ثم اعضد من الشجر بسيفك، واجررني إلى هذا النهر، فإنك لا تفرغ حتى أفرغ، فاغسلني وكفني بكفني، ثم اجعلني في حفرتك، وانثل علي الجرف برمحك، وألق علي الغصون والحجارة؛ ثم اتبع الناس فإن لهم رهجة تراها في الأفق إذا أمسيت كأنها جهامة. قال: فما أخطأ مما قال شيئًا، ولولا نعته لم أهتد لأثر الجيش. وقال وهو يجود بنفسه:
أبا عبيد وقع الكتاب ... واقترب الموعود والحساب
وعند رحلي جمل نجاب ... أحمر في حاركه انصباب
ثم مضيت حتى لحقت الناس. فكان يقال: إن أهل الإسلام أبعدوا الأثرة في بلاد الروم؛ فما كان وراء قبر أبي ذؤيب قبر يعلم للمسلمين. وقيل: إنه مات بغزوة إفريقية.