أمر السلطان سليمان عام 944هـ/1537م ببناء سور جديد للمدينة. وقد تم بناؤه في غضون أربع سنوات فقط وبالضبط فوق أساسات البناء المتهدم التي كان الأيوبيون قد شيدوها
بعد الفراغ من مشروع تزويد المدينة بالمياه أخذ السلطان سليمان علي عاتقه مشروع بناء ضخم آخر، ألا وهو إعادة بناء سور المدينة، والذي تم فيه اختتام مرحلة حاسمة من التاريخ الاسلامي في المدينة . وكان القائد الأيوبي الناصر صلاح الدين يوسف قد جدد سور المدينة بعد استردادها من الصليبيين عام 587 هـ /1191 م، ولكن تم تخريبه بعد حوالي 30 عاما بحجة تعرض المدينة لخطر حصار صليبي وذلك في عام 616 هـ /1219 م . وتم تدميره مرة أخري في عام 624 هـ /1227 م . وبناء علي ذلك فقد تمكن فريدريك الثاني من استلام المدينة المقدسة عام 626 هـ /1229 دون أي مقاومة .
وهكذا فقد بقيت المدينة لأكثر من ثلاثة قرون تالية تفتقر إلي نظام دفاعي فعال، إلي أن أمر السلطان سليمان عام 944 هـ /1537 م ببناء سور جديد للمدينة . وقد تم بناؤه في غضون أربع سنوات فقط وبالضبط فوق أساسات البناء المتهدم التي كان الأيوبيون قد شيدوها . وبناء علي ذلك يمكننا القول بأن البناء الجديد والذي لم يكن هناك خطر داهم يحث علي بنائه، كان يرمي إلي إعادة السور إلي وضعه القديم . فالأمر هنا كما كان عند ترميم القلعة، يتعلق بمشاريع بناء تاريخية تهدف إلي منح القدس شعار الحكم الذاتي الذي فقدته زمنا طويلا .
إن خطوات بناء السور البالغ طوله حوالي 4 كم والذي يشمل سور الحرم الجنوبي وزاويته الجنوبية الشرقية وسور القلعة في الجهة الغربية، يمكن تحديدها بناء علي النقوش الثلاثة عشر المعروفة بالتسلسل التالي : بدأ البناء في الجناح الشمالي الغربي حسبما تشير ثلاثة نقوش كتابية علي باب العامود الواقع في الشمال الغربي وعلي البرج الأوسط وعلي برج اللقلق الواقع في الزاوية الشمالية الشرقية من السور، والتي تؤرخ البناء في عام 944 هـ /1537 م . وفي هذه المرحلة الأولي تم أيضا تجديد باب الساهرة .
وفي العام التالي تواصل البناء في الجهة الشرقية حيث يشير نقش باب الأسباط إلي العام 945 هـ /1538 م واستمر حتي الزاوية الشمالية الشرقية لساحة الحرم، إضافة إلي الجزء الشمالي من سور المدينة الغربي الممتد حتي القلعة، وتشهد علي ذلك أربعة نقوش كتابية مؤرخة في عام 945 هـ /1538 م علي البرج الشمالي والبرج الجنوبي واثنان علي باب الخليل .
وتم الفراغ من بناء السور مع إنهاء الجزء الجنوبي عام 947 هـ /1540 م كما تشير إلي ذلك أربعة نقوش كتابية أخري يقع اثنان منها علي باب النبي داود وواحد علي برج الكبريت الواقع عند الزاوية الجنوبية الشرقية، وواحد علي باب المغاربة . ومن المحتمل أن يكون قد سبق ذلك بناء الشرفة البارزة في الجهة الغربية من القلعة مع جزء السور المكمل لها من الناحية الجنوبية، وكذلك ترميم الواجهة الخارجية لسور الحرم .
وقد ارتكز النظام الدفاعي في سور المدينة علي نماذج أيوبية ومملوكية تتمثل في بناء أبراج عند الزوايا وبوابات ذات مداخل متعرجة . ويمكن مقارنتها علي سبيل المثال بسور مدينة دمشق وبدرجة أكبر بسور مدينة حلب . وكذلك فإن الأقبية المنثـنية في باب العامود وباب الأسباط وباب الخليل تشابه مثيلاتها في أبواب حلب والقاهرة التي بنيت في أواخر العهد المملوكي . وبناء علي ذلك يمكننا القول بأن الذين قاموا بتنفيذ أعمال البناء كانوا شاميين ومصريين، ولم تأت فرق من بلاد الأتراك لبناء تلك الأسوار الضخمة . ومن الواضح أنه تم تطبيق أنظمة البناء الدفاعية المتبعة في العصور الوسطي بهدف إعادة بناء السور علي نفس الهيئة التي كان عليها في العهد الأيوبي .
إن النقوش قليلة العدد الموجودة علي سور المدينة لا تزودنا بمعلومات حول تنظيم عمليات البناء، ومع ذلك يمكننا الافتراض بأن محمد بيك حاكم لواء غزة والقدس، والذي بني محرابا تحت قبة النبي في الحرم القدسي مؤرخة في عام 945 هـ /1538 م قد لعب دورا هاما في تنفيذ مشروع بناء السور الضخم، وربما كان يدير عمليات البناء بنفسه .