因江西杨村一个山村有一条小溪往东南径直经过，一年四季都有水流出，小溪两边都有居民定居，由于水源不大，所以取名小水。
2026年3月，被认定为广东省第三批“百千万工程”典型村镇。
2024年3月，被命名为2023年广东省卫生村。
小水村是连平县上坪镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为441623101203，居民身份证号码前6位为441623。邮政编码为517000，长途电话区号为762 ，车牌号码为粤P。小水村与旗石村、古坑村、东南村、中村村、上坪社区、东阳村、惠西村、西坪村、下楼村、布联村、新陂村、石陂村、下洞村、三洞村相邻。历史沿革：建国成立小水村时叫小水乡，后来改为小水大队，1999年改为小水村民委员会至今。
