Masjid ini terletak di daerah Hudaibiyah, daerah yang terletak di antara Makkah ke Jeddah. Jaraknya kurang lebih 25 kilometer dari Masjidil Haram. Daerah itu sekarang dikenal dengan nama daerah Al- Syumaisyi.
Nama Hudaibiyah berasal dari nama seorang laki-laki penggali sumur di tempat tersebut, yang kemudian nama itu dinisbatkan untuk nama sumur dan daerah Hudaibiyah. Di dekat sumur iu terdapat pohon yang rindang, namanya pohon Hadba’. Pohon yang menjadi saksi bisu peristiwa bai’at itu sekarang sudah tidak ada lagi. Di bawah pohon itulah telah terjadi bai’at pada 7 H yang disebut juga dengan bai’at al-Ridhwan.
Diriwayatkan bahwa Rasulullah mengundang sekitar 1400 orang untuk berbuat bai’ait kepadanya di daerah Hudaibiyah. Bai’at ini terjadi di bawah pohon sebagaimana tertera dalam Al-Quran surat al-Fath: 18
لَّقَدْ رَضِىَ ٱللَّهُ عَنِ ٱلْمُؤْمِنِينَ إِذْ يُبَايِعُونَكَ تَحْتَ ٱلشَّجَرَةِ
Artinya:
”Sesungguhnya Allah telah rida terhadap orang-orang Mukmin ketika mereka berjanji setia kepadamu di bawah pohon.” (Al-Fath: 18)
Di daerah ini pula dan di tahun yang sama telah terjadi perdamaian antara Rasulullah SAW dengan orang-orang kafir Makkah. Perjanjian berlaku 10 tahun, ditulis oleh Ali bin Abi thalib RA. Setelah perdamaian berjalan dua tahun, kaum kafir Makkah melanggar perjanjian tersebut. Perdamaian ini terkenal dengan nama Perdamaian Hudaibiyah.
Di daerah itu telah dibangun lagi sebuah masjid yang diberi nama Masjid Ar-Ridhwan. Masjid kuno ini masih bertahan dan dibangun sebelahnya sebuah masjid baru yang berdampingan dengan masjid lama.