小寺村名，是以村中清凉寺命名。据清康熙年间石碑记载：清凉寺始建于宋代年间，是佛教圣地，香火旺盛，邻村信徒竞相朝拜。因寺院规模不大，故取名小寺。后来在寺院旁，逐渐形成村落，仍以小寺村为名。

2022年1月，小寺村被命名定为2021年度河南省卫生村。

小寺村是汝阳县小店镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为410326103202，居民身份证号码前6位为410326。邮政编码为471000，长途电话区号为379 ，车牌号码为豫C。小寺村与马庄村、付庄村、杨家渠村、小店村、车坊村、龙泉村、紫罗村、虎寨村、双丰村、马沟村、关帝村、秦洼村、赵村村、胡村村相邻。历史沿革：唐代先天元年（712），属临汝县。

1949年，为小寺乡，属城关区。

1956年，为小寺高级社，属小店中心乡。

1960年，为小寺大队，属小店公社。

1984年1月，更名为小寺村民委员会，属小店乡。