明嘉靖十七年（1538），从尹庄迁来尹姓人家，后来又迁来徐姓和张姓，成村后因三姓都发展的慢，而尹姓人来的早，又因村小得名小尹庄。
小尹村是平舆县西洋店镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为411723105212，居民身份证号码前6位为411723。邮政编码为463000，长途电话区号为396 ，车牌号码为豫Q。小尹村与潘营村、秦王村、王寺台村、吴湾村、毛陈村、马楼村、西洋潭村、赵庙村、彭庄村、后岗村、耿庄村、高台村、陈寨村、聂寨村相邻。历史沿革：清属汝宁府。
民国属汝南县西洋店八区付寨八保。
1949年属汝南县西洋店汪洋乡。
1951年汝南、平舆分治后，属平舆县八区。
1960年设立小尹庄生产大队，属西洋店人民公社。
1984年设立小尹庄村民委员会，属西洋店乡。
