أبو عبدالله الواعظ الشيرازي قال الخطيب قدم بغداد وأظهر الزهد والتقشف والورع وعزوف النفس عن الدنيا فافتتن الناس به وكان يحضر مجلسه خلق كثير ثم إنه بعد حين كان يعرض عليه الشيء فيقبله فكثرت أمواله ولبس الثياب الناعمة وجرت له أمور وكثرت أتباعه وأظهر أنه يريد الغزو فاتبعه نفر كثير فعسكر بظاهر البلد وكان يضرب له الطبل في أوقات الصلوات وسار إلى ناحية أذربيجان فالتف عليه خلق كثير وضاها أمير تلك الناحية وكانت وفاته هنالك في هذه السنة قال الخطيب وقد حدث ببغداد وكتبت عنه أحاديث يسيرة وحدثني بعض أصحابنا عنه بشيء يدل على ضعفه وأنشد هو لبعضهم
إذا ما أطعت النفس في كل لذة * نسبت إلى غير الحجى والتكرم
إذا ما أجبت الناس في كل دعوة * دعتك إلى الأمر القبيح المحرم