Pada suatu hari Rasulullah saw. menanyainya, “Hai Abul Mundzir, ayat manakah dari Kitabullah yang teragung?” Orang itu menjawab, “Allah dan Rasul-Nya lebih tahu.” Nabi saw. mengulangi pertanyaannya, “Abul Mundzir, ayat manakah dari Kitabullah yang teragung?” Maka ia menjawab, “Allah, tiada tuhan melainkan Ia, Yang Maha Hidup lagi Maha Pengatur.” (QS. Al-Baqarah: 255). Rasulullah saw. pun menepuk dadanya. Dan, dengan rasa bangga yang tercermin pada wajahnya, ia berkata, “Hai Abul Mundzir, selamat bagimu atas ilmu yang kamu capai.”
Abul Mundzir yang mendapat ucapan selamat dari Rasulullah saw. yang mulia atas ilmu dan pengertian yang dikaruniakan Allah kepadanya itu tiada lain adalah Ubay bin Ka’ab, seorang sahabat yang mulia. Ubay bin Ka’ab merupakan salah seorang perintis dari penulis-penulis wahyu. Begitu juga dalam menghafal Al-Quran, membaca dan memahami ayat-ayatnya, ia termasuk golongan terkemuka.
Setelah berpulangnya Rasulullah saw., Ubay bin Ka’ab menepati janjinya dengan tekun dan setia, baik dalam beribadah, dalam keteguhan beragama, maupun keluhuran budi. Disamping itu, tiada henti-hentinya ia menjadi pengawas bagi kaumnya. Diingatkannya mereka akan masa-masa Rasulullah saw. masih hidup. Dingatkannya mereka mengenai keteguhan iman mereka, sifat zuhud, perangai, dan budi pekerti mereka. Di antara ucapan-ucapannya yang mengagumkan yang selalu didengungkan kepada sahabat-sahabatnya adalah, “Selagi kita bersama Rasulullah saw., tujuan kita satu. Tetapi setelah ditinggalkan beliau, tujuan kita bermacam-macam. Ada yang ke kiri, ada yang ke kanan.”
Ia selalu berpegang pada takwa dan menetapi zuhud terhadap dunia, hingga tidak dapat terpengaruh dan terpedaya. Ia paham corak hidup manusia, betapa pun ia berenang dalam lautan kesenangan, dan kancah kemewahan, tetapi pasti ia akan menemui maut yang segalanya akan berubah menjadi debu, sedang di hadapannya tiada terlihat, kecuali hasil perbuatannya yang baik atau yang buruk.
Mengenai dunia, Ubay pernah melukiskannya sebagai berikut, “Sesungguhnya makanan manusia itu sendiri, dapat diambil sebagai perumpamaan bagi dunia, biar dikatakannya enak atau tidak, tetapi lihatlah seperti apa ia keluar dari perut.”
Karena kesalehan dan ketakwaannya, Ubay selalu menangis setiap teringat Allah dan Hari Akhir. Ayat-ayat Al-Quran, baik yang ia baca ataupun yang didengarnya, semua menggetarkan hati dan persendiannya. Tetapi, satu ayat di antara ayat-ayat yang mulia itu, ada yang menyebabkannya diliputi rasa duka yang tidak dapat dilukiskan. Ayat itu ialah, “Katakanlah, Ia Maha Kuasa mengirim siksa kepada kalian, baik dari atas atau dari bawah kaki kalian, atau membaurkan kalian dalam satu golongan dalam keadaan berpecah-pecah, dan ditimpakan-Nya kepada kalian (akibat buruk) perbuatan kawannya sendiri.” (QS. Al-An’am: 65)
Ia selalu memohon keselamatan kepada Allah, berkat, karunia, serta rahmat-Nya. Dan, hal itu diperolehnya, dan ditemuinya Tuhannya dalam keadaan beriman, tenteram, dan beroleh pahala.