据清代碑文记载，此处地势突兀，时当夏春之际，烟雾缭绕，看去俨然如一座青山。元初，元兵南下路过此地，疑为前有青山挡道而绕行，当地村民未受扰乱，因此，取村名为青山。明代称青山村，清代称青山。此处有二村落，因规模此称大青山，沿用至今。
2022年1月，大青山村被命名定为2021年度河南省卫生村。
大青山村是汤阴县宜沟镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为410523104230，居民身份证号码前6位为410523。邮政编码为455000，长途电话区号为372 ，车牌号码为豫E。大青山村与尚家庵村、胡勇街村、霍家洼村、香寺村、前进街村、小青山村、王老屯村、马屯村、西蚕姑咀村、车屯村、冯岗村、陈下扣村、赵屯村、棘针庄村相邻。历史沿革：1950年，设村。
1958年，成立汤阴县宜沟公社大青山生产大队。
1983年，社改乡，队改村，称宜沟乡大青山村民委员会。
1987年，乡设镇，称宜沟镇大青山村民委员会，其名称沿用至今。
