إلاَّ أنه ما دخل القرن الثالث حتى بدأ بعض كبار أئمة السنة والأثر يدخلون في التصوف كأبي سليمان الداراني وأحمد بن أبي الحواري وذي النون المصري ثم الجنيد بن محمد وسهل بن عبد الله.
و في القرن الرابع دخل في ذلك كبار أهل الحديث كأبي بكر بن أبي داود ومحمد بن أسلم الطوسي وابن أبي عاصم الذي صحب أبا تراب النخشبي. ثم هكذا دواليك.
و خلال هذه الفترة كان التصوف مستقيمًا في الجملة، إلاَّ ما كان من الجهلة والعوام ممن لم يتفقه ويقرأ القرآن ويكتب الحديث، وعليهم يحمل ما ورد في"تلبيس إبليس"من آثار ذم التصوف والصوفية، وإلا فإن كبار أهل الحديث والسنة والأثر كانوا صوفية مربين عبادًا زهادًا، وهؤلاء هم الذين يمدحهم الإمام الذهبي، بل سائر أئمة السنة كشيخ الإسلام ابن تيمية وابن القيم وغيرهم، فما كانوا ينكرون التصوف إنما ينكرون انحراف من انحرف، ولذلك كتب الإمام ابن قدامة رسالة بعنوان"ذم ما عليه مدعو التصوف"ولم يقل الصوفية.
و عليه يتبين أن الصوفية المتقدمين استغرقوا أوقاتهم في تجريد التوحيد لله بالمحبة والتوكل وسائر أعمال القلوب والجوارح.
ثم بدأ بعض المنحرفين يتكلمون عن الفناء والحلول وما إلى ذلك، فاشتد نكير العلماء عليهم، ولذلك كفروا الحلاَّج، وتبرأ منه سائر المشايخ، إلاَّ قلة اغتروا بحاله، وحكم فيه القاضي أبو عمر محمد بن يوسف المالكي، بحكم الشرع وبموافقة كبار أئمة الإسلام في ذلك الوقت كما ذكر القاضي عياض في"الشفا"وغيره، وهكذا اندس الانحراف شيئًا فشيئًا في التصوف حتى أضحى طلب الفناء عن شهود السوى مطلبًا ثم ارتقى إلى فناء عن وجود السوى، وهو وحدة الوجود، التي أكثر من ذكرها ابن العربي الحاتمي في"فصوصه"وابن الفارض في أشعاره وغيرهم ممن جعل الفلسفة والكلام دينًا، وكتب فيما لم يخطر ببال الصحابة والتابعين كابن سبعين والتلمساني المسمى العفيف وغيرهم، وسموا هذا عين التوحيد، وعلم الحقائق، والإشارات التي كتب فيها أبو عبد الرحمن السَّلمي كتابه"حقائق التفسير"في القرن الخامس، فاشتد نكير العلماء عليه حتى قال الواحدي: لو اعتقد ذلك تفسيرًا لكان كافرًا، قال الذهبي: وهو معذور في ذلك، أي في تكفيره.