汉《神仙传》中记载：栾巴为官正直，一次皇帝赐酒大宴朝臣，栾极谏。佞臣便让宦官郑众给其下了毒药。群臣举杯共贺，栾将酒洒向空中。帝怒栾跪道：巴蜀失火数日，臣敬酒于天必将大雨，巴蜀火灾可灭也。帝派使者视之，果降大雨。此时栾巴已逃出京城，皇帝即派文武官员追赶，追至此地，望见栾巴，即用箭从后面向头部射击。栾自感此劫难逃，遂拔剑自刎。文武百官见栾巴已死，便在就近村中夜宿。后人把百官夜宿的村庄改名为“百官村”。北宋《相台志》载有“百官村”。明初派军队在此屯田。故清乾隆年《安阳县志》为北关屯、前北关屯。民国《续安阳县志》称百关村。为恢复原名，1981年更名为小百官。
2022年1月，小百官村被命名定为2021年度河南省卫生村。
小百官村是安阳县永和镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为410522114228，居民身份证号码前6位为410522。邮政编码为455000，长途电话区号为372 ，车牌号码为豫E。小百官村与牛房村、伍庄村、西邢济村、小寒村、东邢济村、裴庄村、史庄村、后刺头村、庞湾村、沙里村、沿村台村、杨家堂村、赵奇村、西街村相邻。历史沿革：1949年后，设小百官村。
1958年成立小百官生产大队，属永和人民公社。
1984年成立小百官村民委员会，属永和乡。
2013年撤乡建镇，属永和镇至今。
