黑山公園歷史上曾是清代葛布喇墓地，1956年辟為公園，是解放初期北京市修建的少數幾個公園之一。公園北部為自然山丘，園內百年松柏蒼勁，林木花疏扶搖，具備良好的園林基礎。
多年來疏于管理，特別是“0”遭遇破壞，部分用地被擠占，園容每況逾下。上世紀90年代曾做小規模整修，2004年作為門頭溝區重點工程全面改造。僅半年時間，公園完成了拆墻透綠、景區建設、平面布局和豎向的調整。增加了廣場、園門、景亭、噴泉、健身及兒童游憩園地、園林服務設施等，同時對湖面、水榭、山體和洞門做了適度完善，使公園功能和景觀都有了大幅度的提升。2004年被評為北京市精品公園。
信息來源：北京市旅游發展委員會