Masjid Jum’ah terletak ± 500 meter sebelah utara Masjid Quba. Di tanah ini dulu tinggal Bani Salim bin ‘Auf. Rasulullah SAW mampir ke tempat tersebut pada hari Jumat, lalu tiba waktu salat Żuhur. Rasu- lullah SAW kemudian salat dua rakaat didahului dua khutbah. Inilah salat berjamaah Jum’at pertama yang dilaksanakan oleh Rasulullah SAW walaupun perintah salat berjamaah Jum’at telah turun sewaktu Rasulullah SAW masih berada di Makkah.

Saat itu Rasulullah SAW tidak melaksanakannya karena menghindari azab kaum Musyrikin Makkah. Tapi waktu itu, Mas’ab bin Umair telah melaksanakannya di Quba, di tempat Bani Amru bin ‘Auf yang nantinya menjadi bagian dari Masjid Quba yang dibangun oleh Rasulullah SAW di saat berhijrah. Riwayat lain menyebutkan, sahabat pertama yang melaksanakan salat berjamaah Jum’at sebelum Rasulullah SAW adalah As’ad bin Zurarah. Khutbah yang disampaikan Rasulullah SAW di masjid ini, yang selanjutnya disebut dengan Masjid Jum’ah, merupakan khutbah pertama yang disampaikan Rasulullah SAW dalam salat Jum’at.