قال الزهرى: ((بَرَكَتْ ناقةُ النبىِّ صلى الله عليه وسلم مَوْضِع مسجده وهو يومئذ يُصلِّى فيه رجالٌ من المسلمين، وكان مِرْبَداً لِسَهْلٍ وَسُهَيْل غلامين يتيمين من الأنصار، كانا فى حَجْرِ أسعد بنِ زُرارة، فساوم رسولُ الله صلى الله عليه وسلم الغلامَيْنِ بالمِرْبَدِ، لِيتخذَهُ مسجداً، فقالا: بل نَهَبُهُ لَكَ يَا رَسُولَ الله، فَأَبَى رَسُولُ اللهِ صلى الله عليه وسلم، فَابْتَاعَهُ مِنْهُمَا بِعَشْرَةِ دَنَانِيرَ، وكانَ جِدَارَاً لَيْسَ لَهُ سَقْفٌ، وقِبلتهُ إِلى بَيْتِ المقدِسِ، وكانَ يُصلِّى فِيهِ ويُجَمِّعُ أسعدُ بن زرارة قبل مَقْدَمِ رَسُولِ الله صلى الله عليه وسلم، وكان فيهِ شَجَرَةُ غَرْقَدٍ وخِرَبٌ ونَخْلٌ وَقُبورٌ لِلمُشْرِكِينَ، فَأَمَرَ رسولُ الله صلى الله عليه وسلم بالقبور فنُبِشَتْ، وبالخرب فَسُوِّيت وبالنَّخلِ والشَّجَرِ فقطعت وصُفَّت فى قِبلة المسجد، وجعلَ طولَه مما يلى القِبْلةَ إلى مؤخره مائةَ ذراع، والجانبين مثلَ ذلك أو دونَهُ، وجعلَ أساسه قريباً من ثلاثة أذرع، ثم بنوه باللَّبنِ، وجعل رسولُ الله صلى الله عليه وسلم يبنى معهم، وَيَنْقُلُ اللَّبِنَ والحِجَارَةَ بنفسه ويقول:
اللَّهم لا عَيْشَ إلاَّ عَيْشُ الآخِرةْ فَاغْفِـرْ للأَنْصَارِ وَالمُهَـاجِـرَةْ
وكان يقول:
هَذَا الحِمَالُ لا حِـمَالُ خَيْبَر هَــذَا أَبَـرُّ رَبَّــنَا وَأَطْهَرُ
وجعلوا يرتَجِزُونَ، وهم ينقلُونَ اللَّبِنَ، ويقول بعضهم فى رجزه:
لَئِنْ قَعَدْنَا وَالرَّسُولُ يَعْمـل لَـذَاكَ مِـنَّا العَـمَلُ المُضَـلَّلُُ
وجعل قِبلته إلى بيتِ المقدس، وجعل له ثلاثةَ أبواب: باباً فى مؤخره، وباباً يقال له: باب الرحمة، والباب الذى يدخل منه رسولُ الله صلى الله عليه وسلم، وجعل عمده الجذوع، وسَقَفَه بالجريد، وقيل له: ألا تُسَقِّفه، فقال: ((لا، عَرِيشٌ كَعَرِيشِ مُوسَى)) وبنى إلى جنبه بيوت أزواجه باللَّبِن، وسقَّفها بالجريدِ والجذوع، فلما فرغ من البناء بنى بعائشة فى البيت الذى بناهُ لها شرقى المسجد قبليه، وهو مكان حُجرته اليوم، وجعل لسَوَدة بنتِ زمعة بيتاً آخر.