南京清凉山乃钟山西延之尾端,有山埠7座,高者海拔65.7米,低者19米。南唐以前,长江从清凉山西麓断层下流过,地势险要,向为军事重镇,诸葛亮在此感叹“钟山龙蟠,石头虎踞,真乃帝王之宅也”,自有“六朝胜迹”之称。
南唐时建避暑宫于山上,今留有还阳井、清凉台、翠薇亭遗迹,此外,清凉山还有多处寺院遗址,如唐代善庆寺、杨吴清凉寺,宋一拂清忠祠、明崇正书院、扫叶楼等。清凉山古时山林葱郁,清咸丰时林木尽毁。民国17年(1928)8月,国民政府南京特别市市政府,严禁在清凉山进香。民国19年(1930)市公园管理处把清凉山列为公园,划交鼓楼公园办事处兼管。民国23年(1934)4月11日,蒋介石电军政部、军委会迁移扫叶楼驻军。民国24年(1935),蒋介石“面谕辟建清凉山公园”。国民政府定都南京后,曾多次植树造林,民国25年(1936)2月,首都国民军训队、军训学生、民众数百人于清凉山造林植8560株。民国26年(1937)底南京被日军攻陷后,山林复毁建筑皆遭破坏。
民国28年9月,南京市在清凉山始设火葬场,日本居留民团征用清凉山附近民地20亩,翌年在该处建设火葬场,配有火化炉和电炉3座,专门火化旅华日本人和日军尸体。民国32年伪南京市社会福利局借用该场进行火化。抗日战争胜利后,由南京市卫生局接 管,改名南京市卫生局火葬场。1949年后通称其为南京市清凉山火葬场,1956年殡仪馆和火葬场合署,在殡管部门领导下,统一经营,统一核算,殡仪馆和火葬场职能和利益分配趋向一致,定位为全民所有制事业单位。国家把殡葬事业单位作为社会公益事业给予政策性补贴。
1969年12月1日,南京市革委会下文撤销清凉山公园管理处,将清凉山公园地域划交市自来水厂,并在清凉山建自来水修造厂,园林景观不复存在。
1979年左右清凉山火葬场迁出清凉山搬迁至南郊安德门外石子岗,1986年3月,自来水公司修造厂、硫酸厂等工企单位开始从清凉山、石头城迁出,还给公园一方绿地和宁静,1990年代南京市建设城西快速通道,城西干道将清凉山东西断开,山体植被遭遇重创,清凉山遂被分割而分别建成石头城和清凉山二个公园。
民国时期的南京清凉山和五台山,老照片来源《南京的全眺》