隋末，窦建德建斗城，于城外扎寨处渐成村庄，取名小寨。
小寨村是遂平县沈寨镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为411728106214，居民身份证号码前6位为411728。邮政编码为463000，长途电话区号为396 ，车牌号码为豫Q。小寨村与徐庄村、吴楼村、魏庄村、杨楼村、田堂村、远城村、双楼村、张赵庄村、砖桥村、岗赵村、薜庄村、神沟庙村、罗池坑村、刘阁村相邻。历史沿革：明、清属遂平县。
1931年属八区（区公所驻盛寺庙）。
1936年属四区沈寨联保（区署驻玉山镇）。
1958年9月设立小寨生产大队，属沈寨人民公社。
1983年12月改为小寨村民委员会，属沈寨乡。
2011年12月沈寨乡撤乡建镇，属沈寨镇。
