סמוך לקבר שמעון הצדיק נמצאת מערה המוכרת בשם מערת הסנהדרין הקטנה.
במערה ניתן למצוא כוכים של קברי הסנהדרין מימי בית שני על שמם נקראת המערה.
היסטוריונים מספרים על חילול המקום ובזיזת הקברים על ידי ארכיאולוגים, שלאחמ"כ קברו את כולם יחד סמוך לקבר שמעון הצדיק.
נכון להיום המערה סגורה דרך קבע, וכניסה מתבצעת בתיאום מראש.