من أهم شيوخه حماد بن سلمة بن دينار البصرى، ولعله أول من أخذ عنه العلم، لم يكن بالبصرة قرين له في الفضل والدين والنسك، والقمع لأهل البدع، والأخفش الأكبر عبد الحميد بن عبد المجيد، أو الخطاب مولى بنى قيس ثعلبه، وكان دينًا ورعًا ثقة من أئمة اللغة والنحو، وله ألفاظ لغوية انفرد بها نقلها عن العرب، وكان قد لقى الأعراب، وأخذ عنهم، وعن أبى عمرو بن العلاء وطبقته وأخذ عنه سيبويه اللغة شيئًا من النحو، وروى عنه في كتابه نحو 47 مرة، ويعقوب بن إسحاق بن زيد بن عبد الله بن أبى إسحاق الحضرمى البصرى القارئ، وكان أعلم الناس في زمانه بالقراءات والعربية، وله قراءة مشهورة هى إحدى القراءات العشر.

لم يكن لسيبويه تلاميذ كثيرون، فلم يعرف التاريخ إلا ثلاثة منهم، وقلة هؤلاء التلاميذ ناجمة عما يذكرون من أنه كانت في لسانه حبسة.

قصد سيبويه إلى بغداد في خلافة الرشيد، وسأل يحيى أن تجمع بينه وبين الكسائى شيخ الكوفيين، فنصحه يحيى ألا يفعل، فأبى سيبويه إلا أن يفعل، واجتمع بالكسائى فلقيه قبله أصحاب الكسائى، ومنهم الأحمر وهشام والفراء، فناظروه وساءلوه قبل أن يلقى الكسائى، كأنما فعلوا ذلك ليخضدوا شوكته قبل لقائه الكسائى، ثم واجه الكسائى وناظره في المسألة المعروفة، وهو المسألة الزنبورية (كنت أظن أن العقرب أشد لسعة من الزنبور، فإذا هو هى، أو فإذا هو إياها) .

ويذكرون أن سيبويه أخفق في هذه المناظرة إخفاقًا مبلغ الظن أن الكوفيين افتعلوه، إذ لم يكن إخفاقًا علميًا، وإنما هو إخفاق مظاهرة علمية ليس لها وجه من الحق أو لها وجه من الحق كوفى يخالف وجه الحق البصرى.

ومهما يكن من شئ، فإن يحيى البرمكى قد حفظ لسيبويه مقامه أخرا، كما حفظه له أولًا، فأجازه بعد تلك المناظرة بعشرة آلاف درهم من تلقاء نفسه، بإيعاز من الكسائى كما تذكر كتب التراجم.