İbn-i Sem'ûn bir gün Bağdâd'da, minberde vaaz veriyordu. Minberin önünde oturanlardan Ebü'l-Feth Kavvâs uyudu. İbn-i Sem'ûn hemen sustu. Uyandığı zaman, "Resûlullahı (sallallahü aleyhi ve sellem) rüyâda gördün değil mi?" dedi. "Evet gördüm" dedi. "Seni uyandırıp da, tatlı rüyânı yarıda bırakmamak için sustum" buyurdu.

Bir vaazına şöyle başladı:

Günahlarından dolayı Rabbinden af dileyen yok mu? Rabbime karşı kulluk vazifemi niçin yapamadım diye boyun büküp ağlayan yok mu? Af ve magrifet ümidiyle Allahü teâlâya koşanlar yok mu? Ölmeden önce ölüme hazırlananlar yok mu? Kin, nefret, hased ve gıybet gibi kalp hastalıklarından kurtulmak isteyenler yok mu? Doğru yolun yolcusu olacaklar yok mu? Hâlinin perişanlığına âh edenler yok mu? Günahlara son verilmeyecek mi? Gevşeklik ve tembellikten sakınma olmayacak mı? Ahmaklıklar terk edilmeyecek mi? Sâlih amel işlemeye gayret gösterilmeyecek mi? Ecelin gelişini bekleyip, hazırlık yapanlar yok mu? Yalnızlıklarında hâlini düşünüp, gözyaşı dökenler yok mu? Şehvetlerine esir olmaktan kurtulmak isteyenler yok mu? Her gün insanları alıp götüren ölümü gören yok mu? Ayıplardan, günahlardan kaçan yok mu? Önceki günahlarını hatırlayıp, pişmanlık duyan yok mu? Bir gün ölüm gelip elin ayağın tutmaz, gözün görmez, kulağın işitmez, dilin söylemez olacağından ibret alanlar yok mu? Ömrünü boşa geçirdiği için üzülenler yok mu? Dünyanın geçici lezzetlerine aldanmayıp, âhıreti kazanmak için çalışan yok mu? Nefsin arzu ve isteklerinden kurtulmak isteyenler yok mu? Allahü teâlânın sevdiği ve kendine yakın kıldığı kullarından olmak için yalvarıp, yakaran yok mu? Takvâya sarılıp, haramlardan sakınanlar yok mu? insanların değil, Rabbinin rızâsını arayanlar yok mu? Âhıret yolculuğuna azık hazırlayan yok mu?..

İbn-i Sem'ûn hazretleri, vefât etmesine yakın bir zaman "ben defnolunurum, sonra kabrim açılır" demişti. Vefât edince, evinde defnedildi. 427 (m. 1036) senesinde cesedi defnedildiği yerden alınıp, "Makberet-i Ahmed" denilen kabristana taşındı...