Ebû Zer bin Zer hazretleri oğlu Zer vefât ettiğinde kabri başında onunla ilgili şu ibretli sözleri söyledi:
"Ey oğlum! Allahü teâlâ sana rahmet etsin, senin yerinde olmak isterdim. Yâ Rabbî! Sen sabra ecir, mükâfât vadediyorsun. Ona hakkımı helâl ettim. Oğlumun günâhlarını affet. Sen kerem sâhibisin. Ey Zer! Seni burada bırakıp senden ayrılıyoruz. Zâten kalsak da bir faydamız dokunmaz."
Ebû Zer bin Zer hazretlerinin çok kere yaptığı duâlarından biri de şuydu:
"Yâ Rabbî! Katında sebredenlere vereceğin sevaplara bizi kavuşturacak hayırlar ihsan et. Bize şükür sâhiplerinin makâmına ulaştıracak şükür nasîb et. Bizi günâhlardan temizleyecek tövbe nasîb et ki sana yaklaşanların makâmına erelim. Bütün nîmetlerin ve hayırların sâhibi ancak sensin. Her türlü sıkıntı, keder ve musîbet ânında yalvarılan sensin. Senin takdirine râzı olmayı ve sabrı nasîb et. Râzı olarak sana itâat edelim. Bize verdiğin nîmetler karşısında nîmetini arttırmanı isteyen sana boyun eğen kullar olmamızı sağlayacak şükür nasîb et. Yâ Rabbî! Senin katında bizim için îmândan daha faydalı bir şey yoktur. Sen bize îmânı nasîb ettin. Bizi îmândan mahrûm etme. Rahmetini ümîd ederek sana kavuşmayı isteriz ey Kerîm..."
Bir defâsında İmâm-ı A'zam hazretlerinin annesi, bir meseleyi öğrenmek istedi ve oğluna; "Oğlum git bu meseleyi Ebû Zer bin Zer'e sor?" dedi. İmâm-ı A'zam hazretleri sormak için Ebû Zer bin Zer'e gitti. Ebû Zer bin Zer; "Sen bu meseleyi benden daha iyi bilirsin" deyince, İmâm-ı Âzam; "Annemin emrine muhâlefet etmem" dedi. Ebû Zer bin Zer; "Bu meselenin cevâbı nedir?" diye sordu. İmâm-ı A'zam meselenin cevâbını söyleyince, Ebû Zer bin Zer de; "Öyleyse git, annene böyle söylediğimi bildir" dedi.