התנ''ך מציין בספר שמואל שהנביא נקבר בעיר הולדתו, רמה, מזרחית לאתר. אבל ביומן המסע של הנוסע היהודי בנימין מטודלה מהמאה ה-12 נכתב שהצלבנים קברו מחדש את עצמותיו של שמואל בראש הגבעה המשקיפה על ירושלים. בגלל מיקומו הגבוה וחשיבותו האסטרטגית התנהלו בעידן המודרני קרבות רבים על קבר שמואל. אמנם לא התגלו בחפירות שרידים מתקופת שמואל, אך תפילות של יהודים ומוסלמים מתקיימות באתר כדבר שבשגרה, ודתיים רבים מבין היהודים מבקרים באתר ביום השנה למותו, בכ''ח באייר.
אישיותו של שמואל הייתה מהבולטות בתנ''ך. הוא הנהיג את בני ישראל כנביא בתקופת השופטים והכתיר את שאול המלך ואת ממשיכו, המלך דויד. על פי המקרא, אימו של שמואל, חנה, הייתה חשוכת ילדים שנים רבות וילדה את בנה היחיד רק לאחר שנשבעה שתקדש אותו לעבודת האל במשכן שילה.