השער והחומה נבנו ביזמת הסולטאן העותמאני סולימאן המפואר במאה ה-16 כדי לבצר ולפאר את ירושלים ואתריה הקדושים - וזו האחרונה מבין החומות הרבות שנבנו בירושלים במהלך ההיסטוריה. בשער שולבו מיטב אמצעי ההגנה שהיו מקובלים באותם ימים: משני צדיו נראה חרכי ירי ששימשו עמדות מוגנות. מעל קשת השער נבחין במרפסת תצפית קטנה, המכונה בערבית "משיקולי", ואשר ממנה שפכו מגני העיר שמן רותח על התוקפים.
בקצה העליון של החומה נראה את השיניות שסיפקו חיפוי ללוחמים שניצבו עליה. השער עצמו מעוקל בזווית חדה האופיינית לרוב שערי החומה, שנועדה לעכב את כניסת הפולשים. כיום אלו המכוניות שעוברות דרכו בזהירות רבה כדי לא להישרט. עד שלהי המאה ה-19 ניצבו בשער דלתות מסיביות שהיו ננעלות עם רדת החשיכה. בוני השער דאגו גם ליופיו. אפשר לראות זאת בעיטורי החזית: המניפות מעל חרכי הירי, מרפסת התצפית המסוגננת ובעיקר הקשת היפה מעל השער, שבתוכה חקוקה כתובת באותיות ערביות המהללת את השליט רב העֹצמה שבנה את החומה - הסולטאן העותמאני סולימאן המפואר.
סימני הירי הרבים בחזית השער הקנו לו את השם "השער הפצוע" והם מעידים על הקרבות שהתחוללו כאן במלחמות העצמאות וששת הימים. השלט השחור משמאל לשער מציין את פועלו של גדוד ההנדסה ב-1967 ושלט האבן הלבן בתוך השער מספר על הקרבות במאי 1948 שבמהלכן פרצו מכאן הכוחות הישראליים לעיר העתיקה, אולם לא הצליחו למנוע את נפילת הרובע היהודי לידי צבא ירדן. על אף שהפעולה צלחה וישראל נכנסה אל הרובע היהודי, ניטש השער בסופו של דבר בשל בעיות בכוח אדם, וכעבור 10 ימי לחימה קשים, נכנעו לוחמי הרובע ומגיניו בפני לוחמי הלגיון הירדני. ביום שישי ה-28/5/48 יצאו דרך שער זה תושבי הרובע אל העיר החדשה, והרובע נפל בידי הירדנים.
עד מלחמת ששת הימים עבר כאן קו הגבול: הר ציון היה בשטח ישראל ואילו העיר העתיקה בתוך החומות הייתה בשליטת ממלכת ירדן. השער שהיה חסום משך 19 שנה, נפתח שוב לאחר איחוד העיר ב-1967. בערבית נקרא השער – "באב א נבי דאוד" – שער המלך דויד, מאחר שהוא מוביל להר ציון, לקבר שבו נטמן דויד המלך על פי מסורת שלוש הדתות. המסורת הנוצרית קובעת בהר ציון את מקומם של אירועים חשובים כמו הסעודה האחרונה של ישו ערב צליבתו. הר ציון הוא גם אחת הנקודות הגבוהות סביב העיר העתיקה, ומגג מבנה קבר דוד נשקפת תצפית מרהיבה על ירושלים.
