خانه كعبه نخستین پرستشگاه خدا بود كه در زمان حضرت آدم(علیه السلام) توسط او ساخته شد(947) بعداً طوفان نوح باعث شد كه ساختمان این خانه ویران شده و در ظاهر محو گردید، اما ابراهیم خلیل مىدانست كه مكان خانه كعبه در سرزمین مكه قرار دارد(948) و بر همین اساس، به فرمان خدا، همّت كرد كه دیگر بار این خانه، ساخته شود.
این از یكسو و از سوى دیگر با سكونت هاجر و اسماعیل در سرزمین مكّه، و پیدا شدن آب زمزم و رو آوردن قبائل به این سرزمین، طبیعى است كه این مجتمع، نیاز به قانون (دین) و رهبر داشت. ریشه اساسى قانون و رهبر خوب، و اجراى قانون، پرستش و عبادت خداست، نتیجه مىگیریم كه این مردم نیاز به پرستشگاهى داشتند، تا در وقتهاى مخصوصى به آنجا روند و خدا را عبادت كنند و آن پرستشگاه كلاس تعلیم و تربیت براى آنها باشد.
و چه خوب است كه این پرستشگاه به دست قهرمان توحید، ابراهیم خلیل ساخته گردد و برنامه و مراسم آن با رهنمودهاى این مرد بزرگ تعیین شود.
از این رو ابراهیم پس از گذشت مراحل مقدّماتى، از طرف خداوند مأمور شد تا خانه كعبه را با كمك اسماعیل بسازد.
ابراهیم، از خدا خواست كه مكان كعبه را تعیین كند، جبرئیل از طرف خدا به زمین آمد و همان مكان سابق كعبه را خطكشى كرد و آنگاه ابراهیم آماده شد كه در آن مكان، به تجدید بناى كعبه بپردازد، اسماعیل از بیابان سنگ مىآورد، و ابراهیم دیواركشى كعبه را انجام مىداد و به این ترتیب دیوار كعبه به ارتفاع 9 ذرع رسید، و سپس ابراهیم سقف كعبه را با چوبهایى پوشاند.
در مورد «حجرالاسود» كه در زمان حضرت آدم آن را از بهشت آورده بودند و در كنار كوه ابوقبیس بود، ابراهیم با راهنمایى خداوند آن سنگ را یافت و با كمك اسماعیل آن را برداشته و آوردند و در جاى خود كه هم اكنون قرار دارد، نصب كردند، ابراهیم براى كعبه، دو در قرار داد كه یكى به طرف مغرب و دیگرى به طرف مشرق باز مىشد.
در قرآن آمده: پس از آنكه ابراهیم و اسماعیل، ساختمان كعبه را بالا بردند و كارش را پایان دادند، چنین دعا كردند:
1- پروردگارا! این عمل را از ما قبول كن.
2- خدایا از ما و فرزندان ما امّتى را تسلیم فرمان خود كن.
3- شیوه پرستش خود را به ما نشان بده.
4- توبه ما را بپذیر.
5- در میان مردم این سرزمین، پیامبرى را مبعوث كن تا به تعلیم و تربیت و پاكسازى فكرى و عملى مردم بپردازد.(949)
به این ترتیب ابراهیم با همیارى اسماعیل در این مرحله نیز، كار خود را به طور كامل انجام داد، و با دعاهاى پرمحتوایش این كار بزرگ را تكمیل كرد.