يتولى مجلس الوزراء سلطة الإشراف والرقابة والتوجيه لأعمال الوحدات الإدارية من أجل تحقيق التنسيق والترابط والتكامل بين عمل الأجهزة المركزية والمحلية للدولة. تعمل وزارة الإدارة المحلية وأجهزة السلطة المحلية في المحافظات بكل إداراتها وأجهزتها المختلفة بمبدأ مركزية التخطيط ولا مركزية التنفيذ من خلال تطبيق نظام اللامركزية في الإدارة المالية على المستويات المختلفة وفي الأنشطة المختلفة.
تتكون الجمهورية اليمنية من ثماني عشرة محافظة، تنقسم كل محافظة إلى عدة مديريات، تشتمل كل مديرية على عدة عزل، تتكون كل عزلة من عدة قرى. ويتم انتخاب مسؤول في كل عزلة يسمى العاقل، ويكون مسؤولًا أمام المديرية، فيما يخص القرى من قضايا اقتصادية واجتماعية وسياسية، وينفذ ما يوكل إليه من مسؤوليات من قِبل مسؤول المديرية.
مسجد في مدينة جبلة.
يُعَيَّن بقرار جمهوري من رئيس الجمهورية محافظ بدرجة وزير لكل محافظة. ويعتبر المسؤول الأول في المحافظة. يمثل المحافظ السلطة التنفيذية. والمحافظون محاسَبون ومسؤولون أمام مجلس الوزراء. لكل محافظة وكيل بدرجة وكيل وزارة ينوب عن المحافظ في حالة غيابه، ويعاونه في ممارسة اختصاصاته في حدود القوانين والنظم واللوائح النافذة، وفي حدود تفويض المحافظ، والإشراف على الجوانب الإدارية والمالية.
ينشأ في كل محافظة مجلس تنفيذي يرأسه المحافظ، ويضم في عضويته رؤساء فروع ومكاتب الوزارات والمصالح في المحافظة، باستثناء القضاء ومدير أمن المحافظة ومدير عام ديوان المحافظة ومدير عام شؤون المجالس المحلية بديوان المحافظة.
لكل مديرية مدير، ويعتبر المسؤول الأول بها، ويمثل السلطة التنفيذية في إدارة المديرية تحت إشراف المحافظ، ويقدم تقاريره إليه ولا يغادر عمله إلا بإذن منه ويرتبط به مدير أمن المديرية.