البداية في حكاية البويهيين هؤلاء تعود إلى التحاق علي والحسن وأحمد أبناء أبي شجاع بالجندية ،ودخولهم في جيش (ما كان بن كالي ) وهو أحد القادة المشهورين من أبناء الديالم، وقد أبدوا في عملهم الشجاعة والإتقان ،فدفعهم ذلك إلى أن يصبحوا في الصفوف الأولى بين الأجناد، وفي مرتبة الأمراء.

واختلف ما كان بن كالي مع مرداويج بن زياد ،فما كان من أبناء بويه إلا الانحياز إلى مرداويج عند ما رأوا قوته تميل إلى الرجحان ،فأكرمهم مرداويج وولّى علي بن بويه بلاد الكرج، ثم غضب عليهم، وأمر أخاه (وشمكير) بصرفهم، فصرف الحسن وأحمد, أما علي فلم يصرفه لما اشتهر به من الشجاعة، إلاّ أن مردوايج قرر طرده وأرسل له جيشًا بقيادة المظفر بن ياقوت، فترك علي بلاد الكرج واتجه إلى أصفهان وانتصر على المظفر، وانضم إليه عدد من الديالم، ثم سار إلى (اصطخر) وانتصر على المظفر أيضًا ،ودخل شيراز سنة 322هـ ، ثم حاول علي أن يتقرب ثانية إلى مرداويج الذي قتل سنة 323هـ ،وبقي علي في الميدان، فدانت له بلاد فارس، أما أخوه الحسن، فقد استطاع احتلال الرِّي (طهران) وأصفهان وهمذان، وكذلك أحتل أخوهم أحمد بن بويه كرمان ،ثم دعاه علي لمعاونته فترك كرمان واحتل الأهواز سنة 326هـ.

وهكذا صار الإخوة البويهيون على مقربة من العراق، وقد أصبحت سلطة علي تمتد من بلاد الكرج حتى الأهواز، وسيطر أحمد على بلاد فارس الجنوبية، على حين أن شمال فارس تحت نفوذ أخيهما الحسن وبذلك استطاعوا الاستيلاء على مساحة كبيرة من أملاك الدولة العباسية، الأمر الذي جعل الخليفة يعترف بهم.