ولاه أَبو العباس السفاح حرب مروان بن محمد فسار عَبد الله إلى مروان حتى قتله واستولى على بلاد الشام ولم يزل أميرا عليها مدة خلافة السفاح فلما ولي المنصور خالف عليه ودعا إلى نفسه فوجه إليه المنصور أبا مسلم صاحب الدولة فحاربه بنصيبين فانهزم عَبد الله بن علي واختفى وصار إلى البصرة فأشخصه سليمان بن علي والِي البصرة إلى بغداد فحبسه أَبو جعفر المنصور ولم يزل في حبسه ببغداد حتى وقع عليه البيت الذي حبس فيه فقتله.