Bir gün Hz. Ömer huzurunda bulunan bazı Eshâb-ı kirâma: "Resûlullah efendimizin fitne hakkında olan sözü hatırında olan var mı?" diye sordu. İçlerinden Huzeyfe ey müminlerin emiri! Peygamberimizin bu konudaki sözü aynıyla benim hatırımdadır ki, "Kişi ailesinden, malından, çocuklarından ve komşusundan dolayı fitneye düçar olur. Böyle günahlara oruç tutmak, namaz kılmak ve iyiliği emretmek ve kötülükten men etmek keffâret olur." buyurdu, diye cevap verdi. Hz. Ömer "Maksadım o değil, deniz gibi dalgalanacak fitneyi soruyorum" deyince, Huzeyfe: "Ey müminlerin emiri! Senin için endişelenecek bir şey yok. Senin zamanınla onun arasında bir kapalı kapı var." diye cevap verdi. Hz. Ömer "Bu kapı kırılacak mı, yoksa açılacak mı?" diye sorunca Huzeyfe "O kapı kırılacak" diye cevap verdi. Bunun üzerine Hz. Ömer "Desene Ümmet-i Muhammed kıyâmete kadar bir araya gelemeyecek!" diyerek üzüntüsünü dile getirdi. Daha sonra Huzeyfe'ye o kapının ne olduğu sorulduğunda "O kapı Hz. Ömer idi" diye cevap vermiştir. Daha sonra Hz. Ömer şehid edilmiştir. Huzeyfet'übnü Yemân Hz. Osman'ın halifeliği sırasında Azerbaycan ve Ermenistan taraflarının fethine gönderildi. Bu hizmetlerinin yanında mühim bir hizmeti de Kur'ân-ı kerim nüshalarının çoğaltılmasına sebep olmasıdır. Çünkü o, Azerbaycan ve Ermenistan tarafına gittiğinde Kur'ân-ı kerim'in değişik lehçelerle okunduğunu görerek, Kur'ân-ı kerim'in Kureyş lehçesi üzerine çoğaltılmasını Hz. Osman'a teklif etti. Bunun üzerine Hz. Osman, Kur'ân-ı kerim nüshalarını çoğaltıp; belli merkezlere gönderdi. Hayatının çoğu savaşlarda geçen Huzeyfet'übnü Yemân, Hz. Osman şehid edildiğinde Medine'de bulunuyordu. Bu sırada yaşı oldukça ilerlemişti. Hz. Osman'ın şehid edilmesine çok üzüldü. Onun şehid edilmesinden kırk gün sonra vefât etti. Huzeyfe ölüm döşeğinde yattığı vakit "Dost âni bir baskınla geldi. Pişmanlık fayda vermez. Allahım fakirlik ve hastalıktan hakkımda hayırlı olanı bana ver. Ölüm hakkımda yaşamaktan hayırlı ise, sana ulaşıncaya kadar ölüm yolunu bana kolaylaştır." diyerek duâ etmiştir. Huzeyfet'übnü Yemân, Peygamberimizden yüzden fazla hadis-i şerif rivâyet etmiştir. Ondan rivâyet edilen hadis-i şerifler Kütüb-i sitte adı verilen meşhur altı hadis kitabında yer almıştır.