بقيت مدينة القُدس ضمن أراضي المقاطعة البيزنطية طول السنين التي سبقت الفتح الإسلامي لها، وتعرض للغزو الساساني عام 614م، حيث غزاها القائد الساساني شهرباز خلال فترة الحروب السياسية البيزنطية، فتعرضت المدينة للنهب والتدمير، وقتل نحو 9 آلاف مسيحي في المنطقة على يدهم بمساعدة اليهود الذين كانوا مضطهدين أيام الحكم الروماني.
في عام 632م استلم الصحابي أبو بكر الصديق الخلافة بعد وفاة الرسول صلى الله عليه وسلّم، وتمكن من استعادة السيطرة على منطقة الجزيرة العربية بعد أن ارتد بعض من أسلموا عن ديانتهم، ومن هنا كانت نقطة انطلاق الفتوحات الإسلامية، ففتح المسلمون العراق وبلاد الشام وغيرها.
في عام 634م استلم أمير المؤمنين عمر بن الخطاب رضي الله عنه الخلافة، وكان حينها هرقل ملك الروم قد وجّه جيوشه لاسترجاع الأراضي المسلوبة من قِبل المسلمين إلا أنّ محاولته باءت بالفشل في معركة اليرموك من ذلك العام، وأمر عمر بن الخطاب القائد المسلم أبو عبيدة بالتوجه نحو سوريا لفتحها ثمّ القدس، وبالفعل تمكن المسلمون من تحقيق ذلك في شهر شوال من السنة السادسة عشرة للهجرة المصادف شهر أبريل عام 637م.
لم يكن أمر فتح بيت المقدس بتلك السهولة حيث أقدم ملك الروم هرقل على تحصينها بشدة بعد استرجاعها من الفرس، وتمكنوا من حمايتها بشراسة، وفي عام 13 هجري بدأت القوات العربية بتهديد وحصار الطرق الواصلة إلى بيت المقدس حيث كانت جميع الطرق محاصرة من قبل المسلمين وخاصة بعد استيلائهم على حصون قريبة من القدس وهي بيلا وبُصرى، وكان وجود المدينة غير مفتوحة قد قطع مسير الفتوحات نحو باقي سوريا.
استعدت الجيوش الإسلامية بعد أن احتشدت في أريحا، وفي ذلك الوقت أرسل صفرونيوس بعض الآثار المقدسة ومن بينها الصليب الحقيقي لتهريبها إلى القسطنطينية، وكانت الجيوش الإسلامية قد بدأت بفرض الحصار في ذلك الوقت لإرهاق كاهل البيزنطيين بنقص الإمدادات لإبرام تفاوض يوصل إلى استتسلام غير دموي، وبالفعل لم يكن الفتح دموياً بالرغم من فرض الحصار الإسلامي على المدينة لمدة أربعة أشهر، وانتهت بإعلان صفرونيوس استسلامه ورضوخه لشروط المسلمين ودفع الجزية.
وقع الطرفان اتفاقية يُقر بموجبها البيزنطيين تنازلهم عن مدينة القدس واستسلامهم للمسلمين، إلا أنّ بطريرك القدس رفض التفاوض مع المسلمين فأرسل أبا عبيدة إلى خالد بن الوليد ليبلغه بفشل مهمة التفاوض، وليوصل الأمر إلى الخليفة، ودعاه إلى الحضور إلى القدس لإقناعه بتسليم المدينة.