此村位于清凉山东南麓，村以山名，故称清凉山村。清康熙三十二年(1693)《安阳县志》载有清凉山。

2022年1月，清凉山村被命名定为2021年度河南省卫生村。

2020年9月，清凉山村入选2020年河南省乡村旅游特色村名单。

2019年6月，清凉山村被列入第五批中国传统村落名录。

清凉山村是安阳县磊口乡下辖的行政村，城乡分类代码为220，为村庄。区划代码为410522203210，居民身份证号码前6位为410522。邮政编码为455000，长途电话区号为372 ，车牌号码为豫E。清凉山村与卜居头村、目明村、清池村、泉门村、清峪村、鹿山村、西店村、北山庄村、中店村、南山庄村、安河村、上庄村、南磊口村、东店村相邻。历史沿革：1949年设清凉山村。

1958年9月，改为清凉山生产大队，属许家沟公社。

1977年3月，划归新建的磊口公社。

1984年改为清凉山村民委员会，属磊口乡，至今。