لدين الحنيفية ولا أكثر مسألة عنه من أبي قيس بن الأسلت وكان يسأل من اليهود عن دينهم، فكان يقاربهم.
ثم خرج إلى الشام فنزل على آل جفنة فأكرموه وسأل الرهبان والأحبار فدعوه إلى دينهم، فامتنع فقال له راهب منهم: يا أبا قيس إن كنت تريد الحنيفية فهو من حيث خرجت، وهو دين إبراهيم. فقال أبو قيس: أنا على دين إبراهيم ثم خرج إلى مكة معتمرا، فبلغ زيد بن عمرو بن نفيل، فكلمه، فكان يقول: ليس أحد على دين إبراهيم إلا أنا وزيد بن عمرو، وكان يذكر صفة النبي صلى الله عليه وسلم أنه يهاجر إلى يثرب.
وشهد وقعة بعاث، وكانت قبل الهجرة بخمس سنين، فلما قدم النبي صلى الله عليه وسلم جاء إليه فقال: إلى من تدعو؟ فذكر له شرائع الإسلام، فقال: ما أحسن هذا وأجمله، فلقيه عبد الله بن أبي بن سلول، فقال: لقد لذت من حزبنا كل ملاذ تارة تحالف قريشا وتارة تتبع محمدا فقال: لا جرم لأتبعنه إلى آخر الناس.
فزعموا أنه لما حضره الموت أرسل إلى النبي صلى الله عليه وسلم يقول له: «قل لا إله إله الله، أشفع لك بها» .
فسمع يقول ذلك، وفي لفظ: كانوا يقولون: فقد سمع يوحد عند الموت.
وحكى أبو عمر هذه القصة الأخيرة، فقال: إنه لما سمع كلام النبي صلى الله عليه وسلم قال: ما أحسن هذا، أنظر في أمري، وأعود إليك، فلقيه عبد الله ابن أبي، فقال له: أهو الذي كانت أخبار يهود يخبرنا عنه؟ فقال له عبد الله:
كرهت حزب الخزرج؟ فقال: والله لا أسلم إلى سنة، فمات قبل أن يحول الحول على رأس عشرة أشهر من الهجرة.
وقال أبو عمر: في إسلامه نظر. وقد جاء عن ابن إسحاق: أنه هرب إلى مكة، فأقام بها مع قريش إلى عام الفتح ومن محاسن شعره قوله في صفة امرأة.