因传说明朝时该村为牧羊之地，因泉水很多，叫羊泉，后为和大羊泉区分而叫小羊泉，故名。
小羊泉村是神池县大严备乡下辖的行政村，城乡分类代码为220，为村庄。区划代码为140927206216，居民身份证号码前6位为140927。邮政编码为034000，长途电话区号为350 ，车牌号码为晋H。小羊泉村与王庄子村、庄窝村、马坊村、九仁村、四十亩沟村、大羊泉村、大严备村相邻。历史沿革：1958年属跃进人民公社所辖。
1961年曾设马坊公社，属马坊公社。
2001年合并乡镇归大严备，沿用至今。
