明代中期，刘姓从山西洪洞县迁此，庄较小，故名。

2023年1月，河南省爱卫办命名刘庄村为2022年度河南省健康村庄。

2021年1月，河南省爱卫会命名刘庄村为2020年度河南省卫生村。

刘庄村是遂平县玉山镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为411728102207，居民身份证号码前6位为411728。邮政编码为463000，长途电话区号为396 ，车牌号码为豫Q。刘庄村与培楼村、康庄村、坡李村、贾庄村、苏庄村、火龙庙村、吴寨村、黄庄村、吴庄村、高竹园村、柴庄村、初徐村、悦庄村、玉山村相邻。历史沿革：1931年属五区。

1936年属第四区（区署驻玉山镇）。

1959年9月建刘庄生产大队，属玉山人民公社。

1981年9月更名为小刘庄生产大队，属玉山人民公社。

1983年12月改设小刘庄村民委员会，属玉山乡。