元代,村内有前庵、后寺,庙宇香火旺盛。当时村内有4大户,谭、梁、酒、丁。明末李自成盘踞商洛山,前庵、后寺毁于战火,4大户为避战火逃往他乡,无人居住,称“小没沟”,后演变为“小木沟”。
2021年1月,河南省爱卫会命名小木沟村为2020年度河南省卫生村。
小木沟村是嵩县木植街乡下辖的行政村,城乡分类代码为220,为村庄。区划代码为410325210205,居民身份证号码前6位为410325。邮政编码为471000,长途电话区号为379 ,车牌号码为豫C。小木沟村与栗盘村、大力坡村、杨家岭村、北岭村、坪地村、竹林村、升坪村、张槐村、寨沟村、木植街村、北沟村、禅堂村、蒲池村、石滚坪村相邻。历史沿革:明代属汝川镇。
1951年10月属嵩县第十区。
1955年分为火星社、共升社。
1956年与张槐合乡,属木植街中心乡,同年10月属车村区。
1958年成立小木沟为大队,属木植街人民公社。
1984年为小木沟村民委员会,属木植街乡,沿用至今。