في مصر قام المفتي بتشكيل الهيئة العربية العليا لفلسطين برئاسته حيث نظم الحركة الوطنية الفلسطينية تنظيماً حديثاً، وقرر إعداد الشعب لخوض الكفاح المسلح ضد الصهيونيين والإنجليز، وألف لجنة من قادة المجاهدين الفلسطينيين وبعض الضباط السوريين والعراقيين والمصريين لوضع الخطط وتحديد المطلوب من الأسلحة والمعدات للجهاد الذي كان أوانه قد اقترب بعد بروز فكرة التقسيم من جديد في الأوساط الأمريكية والبريطانية والصهيونية ومحيط الأمم المتحدة، كما أعاد تنظيم جيش الجهاد المقدس وأسند قيادته إلى عبد القادر الحسيني وأنشأ المفتي كذلك منظمة الشباب الفلسطيني التي انصهرت فيها منظمات الفتوة والجوالة والكشافة وأسند قيادتها للمجاهد الصاغ محمود لبيب ـ وهو قائد بارز من قادة الحركة الإسلامية بمصرـ وكلفه بمهمة تدريب الشباب على القتال.
وبالرغم من الاستعدادات العربية إلا أن ميزان القوى بين العرب واليهود في كل النواحي لم يكن متكافئاً، وحدثت النكبة في 14 أيار 1948، ظل المفتي بعدها يعمل للدفاع عن قضية فلسطين حيث ألف حكومة فلسطينية في منطقة غزة برئاسة أحمد حلمي عبد الباقي أطلق عليها (حكومة عموم فلسطين) لتتولى شؤون الكفاح. لكن التواطؤ والمؤامرات على القضية ظل مستمراً يجمد نشاط وعمل هذه الحكومة بعد أن أرغمت على الانتقال إلى مصر، وكذلك حُرمت الهيئة العربية العليا من حرية العمل والنشاط، وأغلقت في وجهها الصحف والمجلات ومحطات الإذاعة، بينما واصل الأعداء مساعيهم لتصفية القضية وكانت خطتهم الجديدة نقل القضية من أيدي أصحابها إلى الجامعة العربية، فتقرر إنشاء (إدارة خاصة بفلسطين) في مجلس الجامعة تتولى القضية الفلسطينية من جميع نواحيها.