על פי מספר מסורות עלי הכהן ובניו חפני ופנחס קבורים בשילה.
וכך כותב בספר שבילי ירושלים: "מעיר זו נוסעים לשילה שנקראת סיילון. שם יש קברי עלי כהן גדול ושני בניו חופני ופנחס והיא מצבה יפה מאוד והיהודים והמושלמנים מדליקין שם נרות תמיד. זקן מקובל אחד יושב אצל הציון הזה והוא אשכנזי ומתפרנס מהעתקת ספרים קדושים כמו ספר הבהיר של ר' נחוניה בן הקנה, ספר בטחון של ר' יהודה בן בתירה, ספר יצירה המיוחס לר' עקיבא ועוד ספרים אחרים…"
מול הכניסה לתל שילה נמצא מבנה עתיק הנקרא קובת א-סכינה כיפת השכינה
מבנה זה מתאים לתיאורים ומסתבר שזהו מבנה קבר עלי
בשנים האחרונות חודשה המסורת ובמקום מתקיימת הילולא גדולה ביום פטירתו החל בי' אייר כמופיע במגילת תענית
להגעה יש לרשום בוויז "שילה הקדומה" הציון נמצא מול הכניסה