明万历年间发展成集，因位于青山脚下，并筑有寨墙，名青山寨，后寨毁，更名青山店。

2023年9月，青山村被确定为河南省第一批乡村建设示范村。

2022年1月，青山村被命名定为2021年度河南省卫生村。

青山村是罗山县青山镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为411521106207，居民身份证号码前6位为411521。邮政编码为464000，长途电话区号为376 ，车牌号码为豫S。青山村与孙岗村、冲口村、寨里村、周湾村、夏寨村、孙楼村、五里村、岳山村、陈洼村、双桥村、洪河村、童桥村、王岗村、双桥社区相邻。历史沿革：1950年属青山乡。

1958年置青山大队，属青山公社。

1971年因石山口水库堤坝加高，原址被淹，公社机关迁往双桥镇，居民迁西北1公里处重建新街。

1983年7月青山大队更名青山村民委员会，属青山乡。

1998年11月撤乡改镇，属青山镇。