Vu en plein soleil depuis le Mont du Temple, directement à l'ouest, ce qui frappe le plus sur le Mont des Oliviers est l'éclat des nombreuses tombes - environ 150 000 en fait - éparpillées comme au hasard sur sa pente ouest. Les Juifs ont été enterrés au Mont des Oliviers depuis des milliers d'années, même si plus récement, ils sont de moins en moins nombreux à y être enterrés. Une des raisons est que le cimetière est tout simplement presque plein. De plus, entre 1948 et 1967, le Mont des Oliviers était sous contrôle jordanien ( les jordaniens qui non seulement interdisaient les enterrements juifs mais ont aussi systématiquement désacralisé de nombreuses tombes) et en 1967 quand Israël récupère sa souvraineté sur les lieux, les habitants de Jérusalem ouest ont déjà établi d'autres cimetières dans la ville.
Les tombes de nombreuses personnalités juives se répartissent sur le site, parmi les quelles celle de Absalom, le fils du Roi David, et plus proche de nous dans l'histoire, celle du Rav Kook et de Menachem Begin. Le Mont des Oliviers est mentionné plusieurs fois dans la Bible, la première fois en rapport avec le Roi David qui grimpa le Mont des Oliviers lors de sa fuite devant Absalom. Toutefois, la mention la plus célèbre apparait dans le livre de Zacharie, qui dit que à la fin des temps, D. se tiendra sur le Mont des Oliviers lorsque la montagne se séparera en deux, marquant le début de la résurection des morts.
D'après la tradition chrétienne, la Vallée de Kidron, qui s'étend du Mont des Oliviers au Mont du Temple, est le lieu où Jésus marcha en dernier. Sur le flan nord du Mont se trouve la Jardin de Gethsemanie, là où Jésus aurait été capturé. Il y a aussi plusieurs églises sur le Mont des Oliviers, dont l'Eglise Notre Père et l'Eglise de toutes les Nations.
