كان العراق في تلك الفترة يتمتع باستقلال نسبي، وكان أكثر البلدان العربية ملاءمة لقبول لجوء المفتي إليه، وكان قد وصل إلى العراق قبله مائتا مجاهد فلسطيني، فأظهر لهم الشعب والحكومة العراقية كرماً عظيماً، وبانتقال سماحته إلى بغداد أصبح العراق مركز الثقل للقضية الفلسطينية. وفي العام الأول من وجوده في بغداد قام بتأسيس (حزب الأمة العربية) وقد كان للحزب دستور تلخصت أهدافه السياسية بالاستقلال للبلدان العربية من نير الاستعمار والوحدة بينها، وقد تألفت النواة الأولى للحزب برئاسة المفتي، فانضم إلى هذا الحزب السري عدد من السياسيين والعسكريين العراقيين وعدد من السياسيين العرب الذين كانوا في العراق في ذلك الوقت. حيث كان هذا الحزب القوة السياسية والأساسية المحركة للأحداث على الصعيدين السياسي والعسكري ومن هؤلاء العسكريين العراقيين: رشيد عالي الكيلاني، يونس السبعاوي، ناجي شكوت، وصلاح الدين الصباغ.
انتهز المفتي فرصة وجوده في بغداد، فطلب من السلطات العراقية أن تقوم بتدريب الفلسطينيين تدريباً عسكرياً، ودخل عدد كبير منهم في مدرسة ضباط الاحتياط وحصلوا على شهادتها، وكذلك في كلية الأركان والمعاهد العسكرية وأتموا تدريبهم فيها.