明末，王姓始居，分建前、后王庄，此庄位北称后王庄，受庄北“牛寺”（1958年拆）所压，后王庄人商议，为治服“牛寺”，取牛怕“长癀”（牛、马等家畜的炭疽病）之意，改名为后癀庄，后渐演变为后黄庄。

2022年1月，黄庄村被命名定为2021年度河南省卫生村。

黄庄村是遂平县玉山镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为411728102203，居民身份证号码前6位为411728。邮政编码为463000，长途电话区号为396 ，车牌号码为豫Q。黄庄村与火龙庙村、高竹园村、贾庄村、初徐村、康庄村、玉山村、刘庄村、培楼村、坡李村、苏庄村、吴寨村、吴庄村、柴庄村、悦庄村相邻。历史沿革：1931年属五区。

1936年属第四区（区署驻玉山镇）。

1958年9月建初徐生产大队，属玉山人民公社。

1981年4月从红卫大队划出后黄庄、前炉两个自然村，组建黄庄生产大队，属玉山人民公社。

1981年9月更名后黄庄生产大队，属玉山人民公社。

1983年12月改设后黄庄村民委员会，属玉山乡。