咸丰年间本村有闫姓，黄姓居多，且该村树林社面积较大，故命名闫黄树林村，后改名黄家山村。

2023年4月，陇南市人民政府命名黄山村为2022年度陇南市卫生村（社区）。

2019年12月，国家林业和草原局公布第二批国家森林乡村名单，黄山村榜上有名。

黄山村是成县王磨镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为621221108212，居民身份证号码前6位为621221。邮政编码为746000，长途电话区号为939 ，车牌号码为甘K。黄山村与张山村、水泉村、周塄村、梨树垭村、白家村、北王坪村、韦山村、林口村、祈坝村、陈家庄村、浪沟门村、杨庄村、王磨村、官店村相邻。历史沿革：建国初属王磨乡，1958年属水泉公社，合作化、公社化为合作社、生产大队，1983年5月由黄家山生产大队改称黄家山村民委员会。

2004年前属水泉乡政府，2004年撤乡并镇后属王磨镇。