قامت هذه الجمعية في ظروف بالغة الصعوبة، وبعد مرور قرن على الاحتلال الفرنسي للجزائر، وقد قامت على أكتاف رجال نصبوا أنفسهم للذود عن الإسلام، ونبذ البدع، ودعوة الناس إلى العودة إلى الكتاب والسنة، وقد عملت جمعية علماء الجزائر على تعليم المرأة المسلمة، وعن ذلك يقول الإمام ابن باديس «علينا أن نكمل النساء تكميلاً دينيًا» ، ويضيف قائلاً «إذا أردنا أن نُربي رجلاً فعلينا أن نربي أمهات دينيات، ولا سبيل إلى ذلك إلا بتعليم البنات تعليمًا دينيًا، وتربيتهن تربية إسلامية، وتركهن بلا تعليم لا ينتج إلا رجالاً لا دين لهم»
ومن هنا عمل ابن باديس والإبراهيمي من خلال جمعية العلماء على
ظهور مكاتب حرة، وإلقاء دروس وعظ وإرشاد، بتنظيم المحاضرات العلمية من علماء الجمعية
مؤسسو جمعية العلماء المسلمين
عبد الحميد بن باديس 1889 هـ 1940 م
محمد البشير الإبراهيمي 1889 هـ 195 م
الطيب العقني1890 هـ 1960 م
أبرز رجالات الجمعية من غير المؤسسين
محمد الأمين العمودي 1890 - 1957 م رجل الحركة الإصلاحية، اشتغل بالمحاماة الشرعية وهو أول كاتب عام أمين للجمعية لإجادته العربية والفرنسية
الشيخ العربي بن بلقاسم القيسي 1895 - 1957 م وهو من أبرز علماء الجمعية، درس في الزيتونة، والأزهر، واختير عام 1935 م كاتبًا عامًا، ثم في 1940 م بعد وفاة ابن باديس اختير نائبًا للشيخ الإبراهيمي، وقد خطفه الفرنسيون في17 أبريل1957 م، ثم اغتالوه
الشيخ مبارك الميلي 1897 - 1945 م وهو ممن تولى رياسة تحرير جريدة البصائر لسان حال جمعية العلماء
جهود البشير في عقد أول مؤتمر لجماعة علماء المسلمين الجزائريين