因村东南有7个大吴村，故此名为小吴。北宋至和二年（1055）河决后因黄河泛滥和战争摧残致使村庄荒芜，明初迁来之民沿用原村名，冠以姓氏，故有张小吴，名称沿用至今。
张小吴村是内黄县梁庄镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为410527103202，居民身份证号码前6位为410527。邮政编码为455000，长途电话区号为372 ，车牌号码为豫E。张小吴村与乔小吴村、石庄村、齐村村、段村村、马庄村、梁庄靳庄村、西咀头村、曹李庄村、东咀头村、前咀头村、小后河村、东大城村、牡丹街村、西大城村相邻。历史沿革：1950年张小吴。
1958年成立张小吴大队，隶属梁庄公社。
1984年成立张小吴村民委员会，隶属梁庄乡。
1998年梁庄乡撤乡设镇，称梁庄镇张小吴村民委员会至今。
