وبعد وفاة بهاء الدولة خلفه ابنه أبو شجاع سلطان الدولة، وقد وقع منذ بداية حكمه تحت نفوذ عدد من الموظفين استأثروا دونه بجميع السلطات، وأتاح هذا الفرصة أمام أخيه شرف الدولة، حيث انتزع لنفسه بعض الأملاك، وتطلع نحو بغداد، وقام صراع بين الأخوين، وقد أوقف هذا الصراع سنة (413هـ/1022م) ، باقتسام الدولة بينهما، ونتيجة لذلك صار العراق لشرف الدولة، وفارس كرمان لسلطان الدولة، وتحرك شرف الدولة نحو بغداد، فاستقبله الخليفة، وكان من حسن حظه أن توفي سلطان الدولة في سنة (415هـ/1024م) ، وهو في الثانية والثلاثين من عمره، وبات الآن مصير اختيار الأمير الجديد بيد الجيش الذي كان قد صار معظم عناصره مرة أخرى من الأتراك (16) .
وتحيَّر الفرقاء في أمر اختيار أمير جديد بين اثنين هما: جلال الدولة أخو شرف الدولة، وأبو كاليجار بن سلطان الدولة، وبعد طواف خلاف واضطراب وفتن اختير جلال الدولة، فاستدعى من البصرة، وعندما قرب من بغداد، خرج الخليفة لتلقيه، فدخل بغداد سنة (418هـ/1027م) ، حيث نصب سيدًا جديدًا في الخلافة، وبقي في منصبه هذا حتى سنة (435هـ/1027م) ، حين توفي، وكان جلال الدولة هذا شبه ألعوبة في يد جند بغداد، خاصة الأتراك منهم، وفي زمنه شهدت مناطق البويهيين الأخرى خارج العراق مزيدًا من المشاكل، والاضطرابات، كما بدأت مناطق الشرق في خراسان تشهد تحولات جديدة وخطيرة في القوى بظهور الغُز بزعامة السلاجقة على مسرح الأحداث.