该村与大靳村仅一沟之隔。相传，靳氏兄弟俩早在此处定居，分住沟之南北。后逐渐形成两个村庄，因该处初为弟所住，故名“小靳”。

2023年11月，山西省爱国卫生运动委员会命名小靳村为2023-2025年山西省卫生村。

2020年8月，山西省爱国卫生运动委员会命名小靳村为2020—2022周期山西省卫生村。

2016年12月，小靳村被列入第四批中国传统村落名录。

小靳村是介休市绵山镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为140781105218，居民身份证号码前6位为140781。邮政编码为030600，长途电话区号为354 ，车牌号码为晋K。小靳村与后党峪社区、东内封社区、西内封村、城寺村、坂地村、岳家湾村、南靳屯社区、下城南社区、上城南村、常乐村、大靳村、焦家堡村、靳凌村、马堡村相邻。历史沿革：1958年设立小靳生产大队。

1984年撤销小靳生产大队，设立小靳村民委员会。

2020年1月7日，介休市人民政府批准宋家小庄并入小靳。