عندما علمت الهيئة العربية العليا نية الأمم المتحدة تقسيم فلسطين، سارعت الهيئة برئاسة المفتي أمين الحسيني إلى الانعقاد، وقررت مواجهة الخطط الاستعمارية الصهيونية بالقوة المسلحة، وتقرر إنشاء جيش فلسطين لممارسة الجهاد الفعلي، واختير المفتي قائداً أعلى لهذا الجيش وأعاد تموين منظمة الجهاد المقدس، ثم حولها إلى جيش الجهاد المقدس الفلسطيني. وأسند قيادته العامة إلى عبد القادر الحسيني، بالإضافة لمهمة الدفاع عن القدس ورام الله وباب الواد.
وعندما أصدرت الأمم المتحدة قرارها القاضي بتقسيم فلسطين عام 1947، تسلل عبد القادر إلى فلسطين سراً مع بعض رفاقه، وفي نفس الوقت اجتاز الحدود الفلسطينية عدد من المجاهدين القادمين من سورية ولبنان، والتقوا جميعاً بعبد القادر، وأخذوا يرسمون خطة جديدة للبدء في المرحلة القادمة من الجهاد. فأعادوا تشكيل قوات الجهاد المقدس، واتخذت بلدة (بير زيت) مقراً رئيسياً لتلك القوات، وتألفت في حيفا والناصرة وجنين وغزة قوات أخرى تابعة لها.
تعتبر هذه القوات طليعة العمل النضالي العربي التي انبثقت تنظيماتها من صميم الشعب الفلسطيني، وكانت في الحقيقة أول مظهر من مظاهر القوات الشعبية التي تحمل في جوهرها صفة الجيش الشعبي في بلد كان يرزح تحت نير الاستعمار البريطاني.
قامت هذه القوات بتنفيذ جزء كبير من واجباتها، فقد تمكنت من إجبار (115) ألف يهودي على الاستسلام في مدينة القدس نتيجة حصارهم باحتلال مضيق باب الواد وإقفاله، وقاموا بعدة معارك محلية، ونصبوا مئات الكمائن للقوافل اليهودية والإنجليزية، كما قامت فرق التدمير بنسف العديد من المنشآت والمباني مثل معمل الجير، عمارة المطاحن بحيفا، وعمارة شركة سولل بونيه اليهودية.