明嘉靖二十五年（1546）祁姓从山西洪洞县迁此定居，因村庄规模较小，故取名小祁。
2022年1月，小祁村被命名定为2021年度河南省卫生村。
小祁村是太康县杨庙乡下辖的行政村，城乡分类代码为220，为村庄。区划代码为411627201220，居民身份证号码前6位为411627。邮政编码为466000，长途电话区号为394 ，车牌号码为豫P。小祁村与耿庄村、北街村、军营村、王湾村、陈留张村、前街村、东街村、洪庙村、牛王庄村、后店村、后街村、陈庄村、庞楼村、铁佛寺村相邻。历史沿革：1949年属太康县第三区（王集）。
1958年8月成立小祁生产大队，属杨庙公社。
1983年11月更名为小祁村民委员会，属杨庙乡至今。
