ولما رجع القرمطي إلى بلاده ومعه الحجر الأسود، وتبعة أمير مكة هو وأهل بيته وجنده، وسأله وتشفع إليه أن يرد الحجر الأسود ليوضع في مكانه، وبذل له جميع ما عنده من الأموال فلم يلتفت إليه، فقاتله أمير مكة فقتله القرمطي، وقتل أكثر أهل بيته وأهل مكة وجنده، واستمر ذاهبا إلى بلاده ومعه الحجر، وأموال الحجيج، وقد ألحد هذا اللعين في المسجد الحرام إلحادا لم يسبقه إليه أحد ولا يلحقه فيه، وسيجازيه على ذلك الذي لا يعذب عذابه أحد، ولا يوثق وثاقه أحد، وإنما حمل هؤلاء على هذا الصنيع أنهم كفار زنادقة، وقد كانوا ممالئين للفاطميين الذين نبغوا في هذه السنة ببلاد إفريقية من أرض المغرب، ويلقب أميرهم بالمهدي، وهو أبو محمد عبيدالله بن ميمون القداح وقد كان صباغا بسلمية، وكان يهوديا فادعى أنه أسلم ثم سافر من سلمية، فدخل بلاد إفريقية فادعى أنه شريف فاطمي فصدقه على ذلك طائفة كثيرة من البربر وغيرهم من الجهلة، وصارت له دولة فملك مدنية سجلماسة، ثم ابتنى مدينة وسماها المهدية، وكان قرار ملكه بها، وكان هؤلاء القرامطة يراسلونه ويدعون إليه، ويترامون عليه.

ويقال: إنهم كانوا يفعلون ذلك سياسة ودولة لا حقيقة له، وذكر ابن الأثير أن المهدي هذا كتب إلى أبي طاهر يلومه على ما فعل بمكة؛ حيث سلط الناس على الكلام فيهم، وانكشفت أسرارهم التي كانوا يبطنونها بما ظهر من صنيعهم هذا القبيح، وأمره برد ما أخذه منها وعوده إليها، فكتب إليه بالسمع والطاعة، وأنه قد قبل ما أشار إليه من ذلك، وقد أسر بعض أهل الحديث في أيدي القرامطة، فمكث في أيديهم مدة، ثم فرج الله عنه.