雾灵山本名伏凌山，曾叫过孟广硎山、五龙山，到明代时因大乘天真圆顿教第三代祖天真古佛将此山作为“求道灵山”，加之此山常年有云雾缭绕其上，始称雾灵山。

雾灵山古已闻名，北魏地理学家郦道元曾遍游雾灵山（北魏时称伏凌山），并在《水经注》中写道：“伏凌山甚高峻，严嶂寒深，阴崖积雪，凝冰夏结，故世人因以名山也。” 明代学者顾炎武在《昌平山水记》中记载：“其山高峻，有云雾蒙其上，四时不绝。” 明洪武年间，中丞刘伯温曾到边陲重镇曹家路巡视，将这里命名为“雾灵山清凉界”并刻于一巨大花岗岩上。

清顺治二年（1645年），雾灵山被清王朝划为“清东陵”的“后龙风水区”禁地，封为皇家风水宝地。1984年经河北省人民政府批准建立省级自然保护区，1988年经国务院批准晋升为国家级自然保护区，1995年加入中国“人与生物圈”自然保护区网络，主要保护对象为“温带森林生态系统和猕猴分布北限”。

清圣祖仁皇帝康熙曾巡游此地，并题《晓发古北口望雾灵山》诗一首。

建国后，国家有关领导和不少知名人士曾到雾灵山视察，并留有部分题词。江泽民、田纪云、焦若愚、金键、沈其忱、阎明复、高扬、岳岐峰、杨泽江、李文珊、仝家泰、宋淑华、徐纯性、马玉槐、刘琨、祝光耀、吴世雄、程维高、叶连松、周南、王家林等先后到过雾灵山。

江泽民总书记于一九九一年在雾灵山北麓题写“湖光山色，尽收眼底”的题词。

一九九Ｏ年五月八日，河北省省长岳岐峰的题词是“保护好雾灵山生态环境，为林业科研作出新贡献”。

一九九四年六月，林业部副部长祝光耀的题词是“京东明珠”。

一九九六年八月四日，林业部副部长刘琨的题词是“保护资源，造福人民”

一九九九年夏日，新华社香港分社社长周南的题词是：“云山雾海，群峰竞秀”。

河北省财政厅厅长王家林题诗两首：“云山雾海仙人境，波涛舞动迎日升。飞瀑如镜落千尺，华北名山第一峰。”“春看药草夏观云，秋色生彩染层林，冰雕树挂冬古齐，四季景色都迷人。”