ظل سيبويه على هذه الحال حتى أصبح معلمًا، وأصبح له تلاميذ يلتفون حوله ويأخذون منه، ويكتبون عنه، وكان من تلاميذه (أبو الحسن الأخفش) وقد ألف سيبويه كتابًا عظيمًا في علم النحو سماه (الكتاب) جمع فيه كل ما سمعه من أستاذه (الخليل بن أحمد) وغيره من العلماء في هذا العلم، واشتهر بعده بـ (كتاب سيبويه) الذي يعده العلماء دستورًا لعلم النحو وقانونًا لقواعده، ومن شدة اعتزاز الفَرَّاء -وهو أحد كبار علماء النحو- بهذا الكتاب أن الناس وجدوا عند موته وتحت وسادته (كتاب سيبويه) !!
وقد أفاد سيبويه الكثيرين بعلمه، حتى وصل علمه إلى عامة الناس الذين أخذوا عنه، وتعلموا منه الفصاحة .. يحكي أن رجلاً قال لسماك (يبيع السمك) بالبصرة: بكم هذه السمكة؟ قال: بدرهمان .. فضحك الرجل مستهزئًا من السماك لأنه رفع المجرور.
فقال السماك: ويلك أنت أحمق، لقد سمعت سيبويه يقول: ثمنها درهمان!!
وقد أصيب سيبويه بمرض قبل وفاته، وفي أثناء مرضه، وجده أخوه -يومًا- متعبًا قد اشتد عليه المرض، فبكى وتساقطت دموعه على وجه سيبويه، فرآه سيبويه فأنشد يقول:
يَسُرُّ الفَتَى مَا كَانَ قَدَّمَ مِنْ تُقَى إِذَا عَرَفَ الدَّاءَ الذي هُوَ قَاتِلُهْ
وعند مماته أخذ ينصح أصحابه ومن حوله قائلاً:
يُؤمِّل دُنْيَا لِتَبْقَى لَهُ فَمَات المؤَمِّلُ قَبْلَ الأَمَلْ
حَثِيثًا يُرَوِّي أُصُولَ النَّخِيلِ فَعَاشَ الفَسِيلُ وَمَاتَ الرَّجُلْ
ومات سيبويه سنة 180هـ بعد أن ترك ثروة كبيرة من العلم، لينتفع بها الناس في كل زمان ومكان.