وخلال القرنين الأولين ابتداءً من عهد رسول الله صلى الله عليه وسلم وخلفائه الراشدين حتى وفاة الحسن البصري، لم تعرف الصوفية سواء كان باسمها أو برسمها وسلوكها، بل كانت التسمية الجامعة: المسلمين، المؤمنين، أو التسميات الخاصة مثل:الصحابي، البدري، أصحاب البيعة، التابعي. لم يعرف ذلك العهد هذا الغلو العملي التعبدي أو العلمي الاعتقادي إلا بعض النزعات الفردية نحو التشديد على النفس الذي نهاهم عنه النبي صلى الله عليه وسلم في أكثر من مناسبة، ومنها قوله للرهط الذين سألوا عن عبادته صلى الله عليه وسلم:"لكني أصوم وأفطر، وأقوم وأنام، وأتزوج النساء، وآكل اللحم، فمن رغب عن سنتي فليس مني".وقوله صلى الله عليه وسلم للحولاء بنت نويت التي طوقت نفسها بحبل حتى لا تنام عن قيام الليل كما في حديث عائشة رضي الله عنها:"عليكم من العمل ما تطيقون، فإن الله لا يمل حتى تملوا، وأحب العمل إلى الله أدومه وإن قل". وهكذا كان عهد الصحابة والتابعين وتابعيهم على هذا المنهج يسيرون، يجمعون بين العلم والعمل، والعبادة والسعي على النفس والعيال، وبين العبادة والجهاد، والتصدي للبدع والأهواء مثلما تصدى ابن مسعود رضي الله عنه لبدعة الذكر الجماعي بمسجد الكوفة وقضى عليها، وتصديه لأصحاب معضد بن يزيد العجلي لما اتخذوا دورًا خاصة للعبادة في بعض الجبال وردهم عن ذلك.