Dengan memercayakan hal yang sangat rahasia itu, Rasulullah menugaskan Hudzaifah memonitor setiap gerak-gerik dan kegiatan mereka, untuk mencegah bahaya yang mungkin dilontarkan mereka terhadap Islam dan kaum Muslimin. Karena inilah, Hudzaifah Ibnul Yaman digelari oleh para sahabat dengan “Shahibu Sirri Rasulullah (Pemegang Rahasia Rasulullah).
Hudzaifah Ibnul Yaman sangat cermat dan teguh memegang segala rahasia mengenai orang-orang munafik selama hidupnya, sampai kepada seorang khalifah sekali pun. Bahkan Khalifah Umar bin Khathtab, jika ada orang Muslim yang meninggal, dia bertanya, “Apakah Hudzaifah turut menyolatkan jenazah orang itu?” Jika mereka menjawab, “Ada,” Umar turut menyolatkannya.
Suatu ketika, Khalifah Umar pernah bertanya kepada Hudzaifah dengan cerdik, “Adakah di antara pegawai-pegawaiku orang munafik?”
“Ada seorang,” jawab Hudzaifah.
“Tolong tunjukkan kepadaku siapa?” kata Umar.
Hudzaifah menjawab, “Maaf Khalifah, saya dilarang Rasulullah mengatakannya.”
Walau demikian, amat sedikit orang yang mengetahui bahwa Hudzaifah Ibnul Yaman sesungguhnya adalah pahlawan penakluk Nahawand, Dainawar, Hamadzan, dan Rai. Dia membebaskan kota-kota tersebut bagi kaum Muslimin dari genggaman kekuasaan Persia. Hudzaifah juga termasuk tokoh yang memprakarsai keseragaman mushaf Al-Quran, sesudah kitabullah itu beraneka ragam coraknya di tangan kaum Muslimin.
