八宝山为北京西山山前平原上的孤立残丘，高度约130米，山势低缓，呈北东向延伸。附近山间出产耐火土、白土、灰石、红土、青灰、坩土、黄姜、砂石等八种建筑材料，因此被称为“八宝山”。
八宝山南麓原有元朝至正年间海云和尚所建的灵福寺。明朝永乐初年，相传司礼监太监“刚铁”墓修筑于此，旁边建延寿寺，后改名褒忠护国寺。以后成为明朝及清朝高级宦官年老离宫后的世代养老地，有寺庙、农田、菜园。
1949年后，褒忠护国寺及其周围土地为中华人民共和国政府所征用。1950年定名为北京市革命公墓。1970年改名为北京市八宝山革命公墓。
八宝山革命公墓附近有八宝山殡仪馆，是北京市最大的殡仪馆，承担北京市三分之二的火葬任务。周恩来、邓小平、华国锋、李宗仁等中共领导人和党外民主人士均在此火化。在八宝山北麓，另有八宝山人民公墓，附近有老山公墓和老山骨灰堂，均为普通公墓。八宝山古墓群为全国重点文物保护单位。
其实，八宝山原来并非公墓，它在明代时期拥有很多处名胜，例如延寿寺、灵福寺、朝阳庵，在西峰上还建有娘娘庙，其中最著名的是褒忠护国寺。褒忠护国寺又被称为黑山护国寺，建于明朝，是为了纪念当时的名将刚炳而建。黑山护国寺内建有刚炳墓，但经过岁月的侵蚀，如今只剩下墓碑和墓前的石龟了。日本侵华时期，当时的日本侵略者为了纪念其死难的日军，在山上建了一座名叫忠灵塔的塔。1946年，为了纪念抗日战争中牺牲的国民党官兵张自忠等38位将领，忠灵塔被改建为忠烈祠。
解放后，陆续于山上建了八宝山革命公墓、八宝山第二公墓和北京西郊殡仪馆。如今，八宝山因有两大公墓而为众人所知，但却很少人知道其为何被叫作八宝山，难道是因为山上真有八宝吗？
相传，在八宝山脚下的山洞里的确藏有八宝，到底是哪八宝呢？所谓八宝，指的是马牙石、白垩、青灰、红土、坩土、黄浆、板岩、砂岩等八种黏土矿物。
马牙石，又称方解石，主要成分为石英，也是人类最早认识和利用的矿物；白垩，俗称白土子或大甴，白色，质软，是石灰岩的一种，分布很广；青灰，是一种含有杂质的石墨，青黑色，常用来粉刷外墙面或搪炉子，也可用作颜料；红土，是较好的天然地基和筑坝材料；坩土,也称耐火土，是火炉内膛的主要原材料，还能制成耐火砖；黄浆是木器的涂料；板岩常用作制造房瓦及石砚的原料；砂岩是研磨、玻璃、建筑等工业的原材料。八宝山便因此八宝而得名。
其实，关于八宝山的“八宝”，还有一个非常有意思的传说：
相传在很久很久以前，八宝山脚下的山洞里藏有金牛、金马、金鸡、金碾子、金磨、金豆子、金簸箕和金笸箩八件宝贝，无人知晓。当时山脚下有一个村庄，村庄里住着一户人家，这家有两口人，是一对无儿无女的李姓老年夫妻。老李和老伴儿无依无靠，只能靠种些丝瓜维持生计。一年，老李老两口在自家屋后种下丝瓜籽后，按照往年的经验，浇水、施肥、松土，可一段时间过去了，只见瓜秧越长越长，却怎么都不结瓜。这要搁往年，可早就结了几十个丝瓜了呀！老两口很是着急。终于有一天，瓜秧的深处开出了一朵花，后来结了个丝瓜，可老两口又发愁了。为什么呢？因为好不容易长出的那个丝瓜却没有个丝瓜样，长得上粗下细，反倒像一个倒挂的葫芦。
一天，老两口正在家门口闲聊，看见从村南头走来一位老头儿，这位老头儿路过老两口屋后看到那个丝瓜突然停下了。只见他一会儿朝山看看一会儿又朝丝瓜看看，用手指掐算了半天，就冲老两口走了过来。老头儿走近向老两口作了一个揖，说：“烦请二位将这个丝瓜卖给我，我宁愿出高价。”老两口摇了摇头，说：“实在对不住老先生，今年我家就结了这么一个丝瓜，打算留着当种子用，不能卖。”老头儿却坚持要买，声称是为了给孙子看病用。老两口是个热心人，一听是为了人家孙子看病，就一口应承了下来，还不要人家的钱。老两口正要为老头儿把丝瓜摘下了，老头儿赶紧制止了，说：“请慢！现在这丝瓜还不熟，还不能做药，等到熟透了我自会来取的。”说着又向老两口作了一揖，转身走了。
从此，老两口更加仔细地照料这个丝瓜。其实，老两口被这个老头儿给骗了！原来，这个老头儿是个风水先生，他此行不是找丝瓜给孙子治病，而是来寻宝物的。什么宝物呢？原来他最近几天掐算到山下埋藏着宝贝，但取出这些宝贝需要开山的钥匙，于是他便找啊找。当他在老两口屋后看到这个丝瓜时，突然眼睛一亮，这个丝瓜正是那把开山的钥匙呀！于是他便向老两口撒了个谎。老头儿走后，在老两口的精心照料下，丝瓜长得越来越旺，慢慢就成熟了，可还是不见老头儿的影子。立秋很快就来临了，开始下起了霜，老两口怕丝瓜被冻坏，就先把丝瓜给摘下来了，放在一个木箱子里，等老头儿来了就给他。
一个夜晚，老头儿终于来了。他兴奋地跑向丝瓜，可哪里有丝瓜的影子，只剩下一堆瓜秧。老两口看见老头儿来了，赶紧将丝瓜从木箱子里拿出来给老头儿。老头儿一看急眼了，踩脚说：“哎呀这可坏了，二位摘得太早了，这下不管用了。”说着垂头丧气地把丝瓜拿走了。老两口看老头儿的样子，觉着有点不对劲，于是悄悄地追随者他，看看他到底要干什么。走了好长时间，只见老头儿在一座山坡前停了下来，用丝瓜在地上画了一个圆圈。只见山坡上立即出现了一扇门，露出了一个洞，但洞口只开了一道小小的缝。
老两口凑上去一看，眼珠子都快瞪出来了！原来里面堆的全是宝贝，什么金牛、金马、金鸡呀，还有金磨、金笸箩、金簸箕，靠门还有一个金碾子在转，从碾子上掉下来的全是金豆子。只听老头儿在那儿自言自语：“唉，都怪那老两口摘得早了，要不缝隙大点我就能进去拿宝贝了。”说着，老头儿就把手伸进了洞缝里，先拿了一个金簸箕，可是那缝隙太小了，老头儿怎么拿也拿不出来。就在这时，里面的那只金鸡“咯咯”叫了起来，老头儿说了声：“坏啦！”就赶紧把金簸箕给扔了，又抓了一把金豆子。正要往外拿的时候，老李过去打了他胳膊一下，老头儿手一哆嗓，金豆子全掉在洞里了，门也关上了。
老头儿气得正要骂人，扭头一看是老李老两口，知道自己理亏，先前骗了人家，于是一生不吱地走了。从此以后，村里人都知道这座山里埋着八件宝贝，就把它叫作八宝山了。