ولما أسلم مع قومه رجع قومه إلى بلادهم وقدم هو الكوفة فأقام بها إلى أن مات فدفن في صحراء بني جعفر بن كلاب . ويقال: إن وفاته كانت في أول مدة معاوية رضي الله عنه ومات وهو ابن مائة وسبع وخمسين سنة . انتهى .
وقال في الاستيعاب: قد قيل: إنه مات بالكوفة أيام الوليد بن عقبة في خلافة عثمان وهو أصح . فبعث الوليد إلى منزله عشرين جزورًا فنحرت عنه .
ثم قال ابن قتيبة: ولم يقل شعرًا في الإسلام إلا بيتًا واحدًا قال أبو اليقظان وهو قوله: وقال غيره: بل هو قوله: ( الكامل ) ( ما عاتب المرء الكريم كنفسه ** والمرء يصلحه الجليس الصالح ) وكتب عمر بن الخطاب إلى عامله المغيرة بن شعبة بالكوفة: أن استنشد من عندك من شعراء مصرك ما قالوه في الإسلام . فأرسل إلى الأغلب العجلي أن أنشدني فقال: ( لقد طلبت هينًا موجودا ** أرجزًا تريد أم قصيدا ) ثم أرسل إلى لبيد: أن أنشدني فقال: إن شئت ما عفي عنه يعني الجاهلية قال: لا ما قلت في الإسلام . فانطلق إلى بيته فكتب سورة البقرة في صحيفة ثم أتى بها فقال: أبدلني الله هذه في الإسلام مكان الشعر . فكتب بذلك المغيرة إلى عمر فنقص من عطاء الأغلب خمسمائة وزادها في عطاء لبيد فكان عطاؤه ألفين