وحينما ذهب فريق من أصحاب النبي - صلى الله عليه وسلم - يسألون أزواجه عن عبادته، فكأنهم تقالوها، فقال بعضهم لبعض"وأين نحن من رسول الله - صلى الله عليه وسلم - لقد غفر الله له ما تقدم من ذنبه وما تأخر، قال أحدهم: أما أنا فأصوم الدهر ولا أفطر، وقال الثاني: وأنا أقوم الليل فلا أنام، وقال الثالث: وأنا أعتزل النساء فلا أتزوج . فبلغ النبي - صلى الله عليه وسلم - مقالتهم فجمعهم وخطب فيهم وقال:"أما إني أعلمكم بالله وأخشاكم له، ولكني أقوم وأنام، وأصوم وأفطر، وأتزوج النساء . فمن رغب عن سنتي فليس مني"."

فمن هنا جاء الإسلام بالتوازن في الحياة، يعطي كل ناحية حقها، ولكن الصوفية ظهروا في وقت غلب على المسلمين فيه الجانب المادي والجانب العقلي.

الجانب المادي، نتج عن الترف الذي أغرق بعض الطبقات، بعد اتساع الفتوحات، وكثرة الأموال، وازدهار الحياة الاقتصادية، مما أورثت غلوا في الجانب المادي . مصحوبًا بغلو آخر في الجانب العقلي، أصبح الإيمان عبارة عن"فلسفة"و"علم كلام""وجدل"، لا يشبع للإنسان نهمًا روحيًا، حتى الفقه أصبح إنما يعني بظاهر الدين لا بباطنه، وبأعمال الجوارح . لا بأعمال القلوب وبمادة العبادات لا بروحها.

ومن هنا ظهر هؤلاء الصوفية ليسدوا ذلك الفراغ، الذي لم يستطع أن يشغله المتكلمون ولا أن يملأه الفقهاء، وصار لدى كثير من الناس جوع روحي، فلم يشبع هذا الجوع إلا الصوفية الذين عنوا بتطهير الباطن قبل الظاهر، وبعلاج أمراض النفوس، وإعطاء الأولية لأعمال القلوب وشغلوا أنفسهم بالتربية الروحية والأخلاقية، وصرفوا إليها جل تفكيرهم واهتمامهم ونشاطهم . حتى قال بعضهم: التصوف هو الخلق، فمن زاد عليك في الخلق فقد زاد عليك في التصوف.

وكان أوائل الصوفية ملتزمين بالكتاب والسنة، وقافين عند حدود الشرع، مطاردين للبدع والانحرافات في الفكر والسلوك.