古时，大山门峪口下，有个千家镇，名叫大罗镇，为应州三岗四镇之一。也叫大山门，后毁于水灾。小山门在大山门旁边故称；为村民委员会驻地，故名。

小山门村是应县南泉乡下辖的行政村，城乡分类代码为220，为村庄。区划代码为140622206210，居民身份证号码前6位为140622。邮政编码为036000，长途电话区号为349 ，车牌号码为晋F。小山门村与窨子沟村、南上寨村、瓦窑沟村、教场村、西贾庄村、观口前村、东贾庄村、清凉庄村、西窑村、下贾庄村、土巷村、周家地村、钗里村、南泉村相邻。历史沿革：1949-1953年属应县四区；1955年成立小山门农业生产合作社；1956-1957年改为小山门高级农业生产合作社；1958年改为南泉公社小山门管委会；1966-1976年称小山门革命委员会；1977-1983年称小山门生产大队，属南泉公社；1984年后称小山门村民委员会，属南泉乡。