सबसे पहली मस्जिद काबा था। काबा अल्लाह के आसपास मस्जिद हराम का निर्माण हुआ। एक परंपरा के अनुसार काबा वह जगह है जहां सबसे पहले हज़रत आदम अलैहिस्सलाम और हज़रत हव्वा अलैहिस्सलाम ने ज़मीन पर पूजा की थी। इसी जगह पर हज़रत इब्राहीम अलैहिस्सलाम ने हज़रत इस्माईल अलैहिस्सलाम के साथ एक इबादत गाह निर्माण। यही जगह मस्जिद हराम कहलाई। कई परंपराओं के अनुसार यहीं हज़रत मुहम्मद स उपकरण और स्लिम ने पहले पहल प्रार्थना अदा कीं हालांकि वहां काबा में समय मूर्ति मौजूद थे। दूसरी मस्जिद, मस्जिद कबाय 'थी जिसकी नींव हज़रत मुहम्मद स उपकरण और स्लिम मदीना से कुछ बाहर उस समय रखी जब वह मक्का से मदीना हिजरत फरमा रहे थे। तीसरी मस्जिद, मस्जिदे नबवी' थी जिसकी नींव भी हज़रत मुहम्मद स उपकरण और स्लिम ने मदीने में हिजरत के बाद रखी और निर्माण में स्वयं भाग लिया। मस्जिदे नबवी मुसलमानों का धार्मिक, सामाजिक और राजनीतिक केंद्र था। आज मस्जिद हराम और मस्जिदे नबवी मुसलमानों की पवित्र सबसे स्थान हैं।