قد شهر نفسه بالزهد في ناحية، فقصداه، فرآه أبو يزيد قد خرج من بيته، ودخل المسجد وتفل في قبلة المسجد، فقال أبو يزيد لصاحبه:"هذا الرجل ليس بمأمون على أدب من أداب السنة، كيف يكون مأمونًا على ما يدَّعيه من مقامات الأولياء؟!"

وروى ان شقيقا البلخي وأبا تراب قدما عليه فقٌدّمت السفرة، وشاب يخدم أبا يزيد فقالا له:"كل معنا يا فتى!"فقال:"أنا صائم"، فقال له أبو تراب:"كل ولك اجر صوم شهر"فأبى، فقال له شقيق:"كل، ولك اجر صوم سنه"فأبى فقال أبو يزيد: دعوا من سقط من عين الله!"فاخذ ذلك الشاب في سرقه - بعد سنة - فقطعت يده".

وقال احمد بن خضريه:"رأيت ربك العزة في المنام، فقال: يا أحمد؟ كل الناس يطلبون مني، إلا أبا يزيد فانه يطلبني".

ومن شعره:

غرست الحب غرسًا في فؤادي ... فلا أسلو إلى يوم التنادي

جربت القلب مني بالاتصال ... فشوقي زائد، والحب بادي