اس مسجد کی تعمیر کے سلسلے میں ایک دلچسپ واقعہ مشہور ہے کہ جب اس مسجد کی بنیاد کا پتھر رکھنے کا وقت آیا تو شاہی نقیب نے علماء کرام کو دعوت دے کر فرمایا کہ یہاں موجود افراد میں سے وہ فرد آگے بڑھے، جس شخص کی بارہ سال کی عمر سے فجر کی نماز قضا نہ ہوئی ہو، وہ شخص اس مسجد کا سنگ بنیاد اپنے ہاتھ سے رکھے، لیکن حاضرین میں سے کوئی سامنے نہ آیا اس پر بادشاہ محمد قطب شاہ آگے بڑھے اور اللہ کی قسم کھا کر اعلان کیا کہ 12 برس کی عمر سے اس وقت تک میری کوئی نماز قضاء نہیں ہوئی اور میری تہجد کی نماز بھی قضاء نہیں ہوئی ہے۔
محمد قلی قطب شاہ نے اپنے ہاتھ سے اس مسجد کا سنگ بنیاد رکھ کر مسجد کی تعمیر کا آغاز کیا، مسجد کی تعمیر کے وقت مکہ مکرمہ سے ایک پتھر منگوا گیا تھا، جس کے نام سے منسوب کرکے اس مسجد کا نام مکہ مسجد رکھا گیا۔
اس پتھر کو اس تعمیر میں لگوایا گیا، جو مسجد کے پچھلے حصے میں اب بھی موجود ہے۔
مسجد کے تعمیری کام میں آٹھ ہزار مزدور 77برس تک لگاتار لگے رہے۔ ابوالحسن قطب شاہ سامن کے عہد تک اس کی تعمیر کا سلسلہ بصرفہ آٹھ لاکھ روپیہ جاری رہا اور شہنشاہ اورنگ زیب کے زمانے میں اس کی تعمیر اختتام کو پہنچی۔
اس مسجد کی عمارت 225 فٹ طویل 180فٹ چوڑی ہے اور اونچائی 75 فٹ ہے۔ بیرونی احاطہ مستطیل وضع کا ہے، جس کا چبوترہ 360 مربع فٹ ہے۔