בשנת 1876 נרקם בירושלים שיתוף פעולה נדיר במיוחד, בין העדה האשכנזית בראשות הרב מאיר אוירבך לבין העדה הספרדית בראשות הראשון לציון הרב אברהם אשכנזי, למטרה משותפת של גאולת אדמות מערת שמעון הצדיק וסביבותיה. כעבור כ-15 שנה נחנכו הבתים הראשונים בשכונה על שם שמעון הצדיק.
הבתים נבנו על ידי ועד העדה הספרדית, ויועדו לעניים. אנו עומדים כעת במרכז השכונה, ומולנו בית הכנסת הקדום המשמש בימינו כ'כולל' במשך שעות היום. כיום מוקף שטח השכונה בבנייה ערבית, והיא בלועה בתוך שכונת שייח ג'ראח, אבל כשנוסדה היה המדרון הצפוני של נחל קדרון טרשי ופנוי. באותה תקופה, בסוף המאה ה-19, הייתה בירושלים תנופת בנייה של שכונות יהודיות חדשות, ששינו את פניה של העיר שהייתה במשך מאות שנים תחומה בין חומות העיר העתיקה.
השכונות החדשות נוסדו בדרך כלל ממערב לעיר העתיקה, פחות או יותר במרחב שבין שכונת הבוכרים בצפון לשכונת שערי חסד בדרום, ומעטים היו שפנו דרומה, מזרחה או צפונה מהעיר העתיקה. במובן זה הייתה שכונת שמעון הצדיק חלוצה ופורצת דרך, שהכשירה את האזור שמצפון לעיר העתיקה להתיישבות יהודית. שכונה זו ניטשה במלחמת השחרור (1948). הבתים העזובים יושבו בדיירים ערבים, אך אחדים מהם נגאלו בשנת 1998 והתיישבו בהם יהודים.
כיום גרות בשכונה 20 משפחות יהודיות.
