ثم نزح إلى السند في فترات مختلفة أعداد من القرامطة من البحرين وبلاد فارس, كما قدم في مطلع القرن الرابع الهجري دعاة إسماعيليون من بلاد شتى, واستقروا في السند, حتى جاءها داعية من كبار دعاتهم يسمى جلم بن شيبان وما إن وصل هذا الداعية حتى التف حوله القرامطة الذين كانوا قد نفذوا إليها من البحرين وبلاد فارس, ووحدوا صفوفهم. وكان إقليم السند في ذلك الوقت تسوده الاضطرابات من جراء النزاعات القبلية بين العرب -إذ كانت هذه القبائل تطالب بتقسيم هذه البلاد إلى ثلاثة أقسام: قسم لقريش, وثان لربيعة, وثالث لقيس- فاستغل جلم بن شيبان الإسماعيلي هذه الأوضاع, وتمكن آخر الأمر من الاستيلاء على مقاليد الحكم فيها. فكانت حكومته هذه أول دولة إسماعيلية تشهدها شبه القارة الهندية ( ) .

تولى حكومة الدولة الإسماعيلية من بعد جلم رجل آخر يدعى حُميد, وهو الذي وجده السلطان سبكتكين الغزنوي في غزواته بالملتان, فهزمه وقتل. وتولى بعده الحكم فيها حفيده أبو الفتح داود القرمطي. ولما حمل السلطان محمود بن سبكتكين الغزنوي راية الجهاد لنشر الإسلام, والقضاء على الفرق الضالة, كان داود القرمطي يدخل في المعاهدات مع السلطان على دفع مبالغ مالية, ويتحالف في الخفاء مع أمراء هنادك لصد السلطان محمود عن الدخول في البلاد الهندية, ويتآمر ضده, وآخر الأمر ضاق محمود ذرعًا بمؤامرات داود القرمطي فخرج إليه من جديد عام (401هـ) , فما زال به حتى أوقعه في الأسر, وحبسه في أحد الحصون, ولم يرجع عن الهند إلى بعد أن قضى على الدولة الإسماعيلية قضاءً تامًا, وخرب عاصمتهم المنصورة وضم هذا الإقليم إلى الدولة الغزنوية, وبهذا انتهت أول دولة قامت للإسماعيلية في البلاد الهندية, وهربت فلول هذه الطائفة إلى بلاد كجرات الغربية التي غدت بؤرة للنّحل الضالة فيما بعد ( ) .