وكان أبوه كعبا من سبي قريظة الذين حكم فيهم سعد بن معاذ.
كان بالكوفة ثم خرج إلى المدينة بماله فاشترى بها مالا سمع أبا العباس عبد الله بن عباس الهاشمي ، وَأبا عَمْرو زيد بن أرقم الأنصاري ، وَيُقَال: سمع أبا عبد الرحمن عبد الله بن مسعود الهذلي ورأى أبا عبد الرحمن عبد الله بن عُمَر بن الخطاب العدوي.
رَوَى عَنه أبو محمد عَمْرو بن دينار الجمحي ، وَأبُو سهيل نافع بن مالك إلا صبحي ، وَأبُو محمد الحكم بن عتيبة الكندي وأيوب بن موسى القرشي.
حدثني علي بن محمد بن سختوية ، حَدَّثنا محمد ، يَعنِي ابن أحمد بن نصر الترمذي ، حَدَّثنا إبراهيم ، يَعنِي ابن المنذر الحزامي ، قال: حَدَّثني إبراهيم بن علي ، يَعني الرافعي قال الرافعي أخبرني كثير بن عبد الله المزني عن محمد بن كعب القرظي قال قلت له ياأبا حمزة.
سمعت محمد بن يعقوب يقول: سَمِعتُ العباس بن محمد يقول: سَمِعتُ يحيى بن معين يقول محمد بن كعب أبو حمزة.