Sebelum kedatangan Nabi Muhammad Saw, kota Madinah dikenal dengan nama Yatsrib. Penduduk kota Yatsrib terdiri dari etnis Arab, baik dari Arab Se- latan maupun Utara, juga ada yang berasal dari etnis Yahudi. Penduduknya telah memiliki kepercayaan dan agama. Agama yang dianut penduduk Yatrib adalah Yahudi, Nasrani, dan Pagan. Mayoritas penduduknya memeluk agama Yahudi.
Agama Yahudi masuk ke Yatsrib berbarengan dengan kedatangan imigran dari wilayah utara sekitar abad ke-1 dan ke-2. Mereka datang ke Mereka datang ke Yatsrib untuk menyelamatkan diri dari penjajahan Romawi. Mereka mendapat- kan penindasan dari Romawi karena melakuakan pemberontakan. Migrasi ter- besar bangsa Yahudi terjadi pada tahun 132-135. Agama Yahudi dianut oleh be- berapa suku-suku, antara lain Bani Qainuqa, Bani Nadhir, Bani Gathafan, Bani Quraidlah.
Keempat suku ini tetap memeluk agama Yahudi walaupun Islam telah tersebar di Madinah. Kebanyakan mereka bekerjasama dengan kafir Quraisy un- tuk mengusir dan membunuh Nabi Muhammad Saw. Akibat menentang Islam, Nabi Muhammad mengusir mereka dari kota Madinah. Sehingga madinah bersih dari bangsa yahudi.
Selain Yahudi, penduduk Yatsrib memeluk agama Nasrani. Kelompok yang merupakan kelompok minoritas berasal dari Bani Najran. Mereka mememeluk agama nasrani pada tahun 343 M ketika Kaisar Romawi mengirim misionaris ke wilayah mereka untuk menyebarkan agama Nasrani.
Sebagian kecil Penduduk Yasrib ada yang tidak memeluk agama yahudi dan nasrani. Mereka mengikuti kenyakinan orang Quraisy dan Penduduk Mek- kah. Mereka memandang kaum Quraisy sebagai penjaga Rumah Allah, sebagai pemimpin-pemimpin Agama, serta sebagai panutan dalam beribadah.
Agama mereka dikenal dengan paganisme yaitu kepercayaan kepada benda-benda, dan kekuatan-kekuatan alam, seperti matahari, bintang-bintang, bulan, dan sebagain- ya. Mereka menyembah kekuatan-kekuatan alam. Mereka hidup sesuai dengan tradisi warisan nenek moyang. Praktik peribadatan mereka bertentangan dengan agama Yahudi dan Nasrani. Karena itu, sering terjadi perselisihan dan keributan antara mereka dengan pemeluk agama Yahudi.