أسس جبريل جبهة التحرير الفلسطينية عام 1959 ونشط بشكل أساسي وسري في صفوف الفلسطينيين اللاجئين في سوريا، سُرِح من الجيش السوري عام 1963 بعد خلاف مع الفريق أمين الحافظ ومن ثم تفرغ لقيادة الجبهة، حينما أعلنت حركة فتح عن انطلاقتها في كانون الثاني يناير عام 1965 تحالف معها جبريل حيث كان يملك تنظيما عسكريا مدربا وقويا لكنه أختلف مع ياسر عرفات وفض التحالف بينه وبين فتح بعد ستة أشهر فقط وبعد هزيمة حزيران يونيو عام 1967 دعا جبريل الفصائل الفلسطينية للتحالف تحت جبهة واحدة فاستجاب بعضها وكانت حركة القوميين العرب بقيادة جورج حبش من أبرز من استجابوا وأُسِست الجبهة الشعبية لتحرير فلسطين لكنها انفضت في أكتوبر عام 1968 وأحتفظ حبش بمسمى الجبهة وكذلك جبريل لكن جبريل أضاف إليها عبارة القيادة العامة.