كان يزعم أنه من بني سوان (نزار) ، مولده بقرية من قرى رنج (زرنج) ونشأ بسجستان ، كأنه قد خذل حتى التقط من المذاهب أردأها ، ومن الأحاديث أوهاها ، ثم جالس أحمد بن عبدالله الجويباري ومحمد بن تميم السعدي ، ولعلهما وضعا على رسول الله صلى الله عليه وسلم وعلى الصحابة والتابعين مائة ألف حديث ، ثم جالس أحمد بن حرب بن عبدالله الأصبهاني بنيسابور ، فأخذ عنه التقشف ، ولم يكن يحسن العلم والأدب ، أكثر كتبه المصنفة صنفها له مأمون بن أحمد السلمي وكان تلميذه .

فأما في حداثته وما كان من إظهار مذهبه فحدثني محمد بن المنذر بن سعيد قال: سمعت عثمان بن سعيد الدارمي يقول: كنت عند إبراهيم بن الحصين والي سجستان إذ دخل علينا رجل طوال ، عليه رقاع ، فقيل: هذا محمد بن كرام ، فقال له إبراهيم بن الحصين: هل اختلفت إلى أحد من العلماء ؟ فقال: لا . قال: فإلى عثمان بن عفان ؟ قال: وإلى عثمان بن عفان ، قال: فهذا العلم الذي تقوله من أين لك ؟ قال: هذا نور جعله الله في بطني ، فقال له إبراهيم: تحسن التشهد ؟ فقال: تشهد جيست ؟ فقال: اندر نمازبنشين ج كوي ؟ قال: أقول: التحيات لله والسلوات والتيبات ، السلام عليك أيها النبي ورحمة الله وبركاته ، السلام ألينا وألى إباد الله السالهين ، أشود أن لا إله إلا الله وأشود أن مهمدا أبدك ورسولك ، قال: فقال له إبراهيم: قم لعنك الله ، وأمر به فأخرج من سجستان .

قال أبو حاتم: هذه حالة محمد بن كرام في الابتداء ، ثم لما أخذ في العلم أحب أن ينشئ مذاهب ، ليعرف به مجرد الإيمان ، وجعله قولا بلا معرفة ، وكان يزعم أن النبي صلى الله عليه وسلم لم يكن بحجة لله على خلقه ، إن الحجة لا يندرس ولا يموت ، وكان يزعم أن الاستطاعة قبل الفعل ، وكان يجسم الرب جل وعلا ، ومن كان داعية إلى بدعة من البدع يجب ترك حديثه ، فكيف إذا جمع إلى بدعته القدح في السنن والطعن في منتحليها .