لما رأى الحسيني انحياز الإنجليز مع اليهود، لجأ إلى قوة العالم الإسلامي مستنداً إلى مكانته الدينية، ودعا إلى عقد مؤتمر إسلامي رسمي في القدس، يشعر سلطات الانتداب بأن عرب فلسطين ليسوا وحدهم، فهناك الملايين من العرب والمسلمين يساندونهم. وافتتح المؤتمر الإسلامي العام رسمياً يوم الإسراء 7/ 12/1931، حضره حشد كبير من العلماء والشخصيات السياسية، استنكروا فيه جميع أنواع الاستعمار وفي أي قطر من الأقطار الإسلامية، كما وضع المؤتمر قرارات رئيسية أهمها: وضع نظام لعقد المؤتمر كل سنتين، إنشاء جامعة إسلامية في القدس باسم (جامعة الأقصى) ، التعاهد بالدفاع عن البراق، إيجاد دائرة معارف إسلامية، تأسيس شركة زراعية لإنقاذ الأراضي ومساعدة الفلاحين والقرويين وأرباب الحرف، وإيجاد شركات تعاونية للتسليف.
عندما تدفقت الهجرة اليهودية على فلسطين، ازداد نشاط الحركة الوطنية وقامت بعدة مظاهرات يترأسها الشيخ موسى كاظم الحسيني، وتعاقبت المظاهرات، وأخذ الوضع يتأزم بمرور الزمن خاصة بعد قيام اليهود بتهريب الأسلحة والأعتدة على نطاق واسع، وتوزيعها على المستعمرات اليهودية، وتشكيل عصابات سرية للإرهاب والتخريب، مما جعل الحاج الحسيني يؤلف لجان سرية من شبان فلسطين لشراء السلاح من داخل فلسطين ومن سورية ومن لبنان والعراق وشرق الأردن، ونقله إلى فلسطين، كما أقام المفتي مراكز سرية في عدة مناطق فلسطينية لتدريب الشبان المؤهلين على استعمال السلاح وحرب العصابات مستعيناً بعدد من كبار الضباط العرب المتقاعدين (من فئة الضباط الناجحين في العهد العثماني) ، كما شكل مجموعات مسلحة من الوطنيين الصامدين في بعض أنحاء فلسطين في الشمال، وكان الشيخ علي رضا النحوي مسؤولاً عن هذا التنظيم، أما المناطق الجنوبية وخاصة القدس، فقد كون الشبان الوطنيون تنظيماً بقيادة عبد القادر الحسيني أطلقوا عليه اسم (الجهاد المقدس) .