Pada suatu hari, Umar marah mendengar adiknya, Fatimah dan iparnya masuk Islam. Lalu ia menganiaya keduanya. Dengan nada marah Fatimah berkata, “Hai, Umar! Jika kebenaran bukan terdapat pada agamamu, maka aku bersaksi bahwa tidak ada Tuhan yang berhak disembah selain Allah dan aku bersaksi bahwa Nabi Muhammad adalah Rasulullah.”
Melihat adiknya berdarah, timbul penyesalan dan rasa malu di hati Umar. Ia pun meminta lembaran al-Qur’an tersebut. Namun, Fatimah menolaknya seraya mengatakan bahwa Umar najis, dan al-Qur’an tidak boleh disentuh kecuali oleh orang-orang yang telah bersuci. Fatimah memerintahkan Umar untuk mandi jika ingin menyentuh mushaf tersebut dan Umar pun menurutinya.
Setelah membaca lembar demi lembar, Umar berkomentar “Ini adalah nama-nama yang indah nan suci. Betapa indah dan mulianya ucapan ini. Tunjukkan padaku di mana Muhammad.”
Umar bergegas menemui Nabi Muhammad saw. Seraya membawa pedangnya. Tiba di sana dia mengetuk pintu. Seseorang yang berada di dalam-nya berupaya mengintipnya lewat celah pintu. Dilihatnya Umar bin Khattab datang dengan garang bersama pedangnya. Segera dia beritahu Rasulullah saw. Mereka pun berkumpul.
Berkatalah Umar, “Aku bersaksi bahwa tidak ada Tuhan yang disembah selain Allah dan Engkau adalah Rasulullah.”
Kesaksian Umar tersebut disambut gema takbir oleh orang-orang yang berada di dalam rumah saat itu hingga suaranya terdengar ke Masjidil Haram. Umar bin Khattab r.a. terkenal dengan orang yang berwatak keras dan bertubuh tegap. Sebelum masuk Islam, ia sangat ditakuti oleh orang Islam. Sebaliknya, sesudah masuk Islam, ia sangat ditakuti oleh musuh-musuhnya.