"Belki beni bir daha göremezsin!"
Muaz bin Cebel hazretleri, Yemen'e gitmek üzere yola çıkınca Peygamberimiz yanında bir miktar yürüdü ve vedâlaşırken "Yâ Muaz, sen belki bu seneden sonra beni bir daha göremezsin. Belki dönüşünde burada benim mescidime ve kabrime ziyarete gelirsin" buyurdu. Bunu işiten Muaz bin Cebel hüzünle gözyaşı dökmeye başlayınca, Peygamberimiz, "Ağlama, Yâ Muaz!.. Bana yakın olanlar, (tam bağlı olanlar) nerede olursa olsunlar, Allah'a hakkıyla kulluk edenledir." buyurdu ve sonra da şöyle sordu: "Sana bir dâvâ getirilip insanlara rasında hüküm verirken ne ile hüküm vereceksin?" Hz. Muaz bin Cebel: "Allah'ın kitabı (Kur'ân-ı kerîm) ile hüküm veririm" dedi. "Ya O'nda açıkça bulamazsan?" buyurunca, "Peygamberin sünneti ile hüküm ederim" dedi. "Ya onda da açıkça bulamazsan" buyurunca, "İçtihad ederek, anladığımla hükmederim" dedi. Peygamberimiz Muaz bin Cebel'in bu cevabından dolayı çok memnun kolarak mübârek elini O'nun göğsüne koyup: "Elhamdülillah! Allahü teâlâ, Resûlünün elçisini, Resûlullah'ın rızasına uygun eyledi." Buyurdu. Sonra Hz. Muaz bin Cebel'e şöyle duâ etti: "Cenâb-ı Hak seni her taraftan gelecek musibetlerden muhafaza buyursun, insanların ve cinlerin şerrini senden uzaklaştırsın" ve "Senin sebebinle Allahü teâlânın bir kişiyi hidayete erdirmesi senin için dünyadan hayırlıdır." buyurdu. Hz. Muaz bin Cebel, Yemen'de uzun müddet kaldı. Kendisine verilen vazifeyi yerine getirdi. Peygamberimizin vefatını da orada iken haber aldı. Daha sonra Yemen'deki hizmetini tamamlayıp, Medine'ye dönen Muaz bin Cebel , Hz. Ebû Bekir'in halifeliği sırasında Medine'de kaldığı müddetçe Hz. Ebû Bekir onu seçtiği müşavere (danışma) heyetine aldı. Bu sırada Suriye taraflarına da giderek hem oralarda yapılan savaşlara katıldı, hem de insanlara din bilgilerini ve Kur'ân-ı kerîmi öğretti. Hz. Ömer'in halifeliği sırasında Kilâboğulları beldesine zekât memuru olarak, sonra da Suriye taraflarında din bilgilerini ve Kur'ân-ı kerîmi öğretmekle vazifelendirildi. Filistin bölgesinde bu vazifesinde iken burada çıkan tâûn (vebâ) hastalığı salgınına yakalanarak otuzsekiz (38) yaşında iken vefât etti.