因山西坡大部分石头呈龙鳞形状，故名蟠龙山。据清朝顺治年间，江苏丹阳人刘道玄在此建庙，内供如来佛神像，故称老佛爷庙，山称老佛爷山，后演变为老山。

老山村由原大张村、沟赵村整建制合并而成；调整后的老山村辖街北、街南、下前、路口、小许、大张、路口张、秦圩庄、小张、老庄、沟赵11个自然村，村民小组16个，面积8.8958平方公里，人口4477人，村活动场所设在老山自然村。老山村下设2个党支部，共有124名党员。老山村与枯河村、徐贺村、大李村、涂山村、屏北村、屏东村、屏西村、吴店村、屏山村、彭鲍村、大彭村相邻。荣誉排行：

2023年11月，入选安徽省2022年度重新确认省级卫生村（社区）名单。

2023年10月，被确定为2023年度安徽省和美乡村精品示范村。

2023年4月，安徽省林业局授予老山村2022年度安徽省森林村庄称号。

2021年9月，老山村被认定为第二批全国乡村治理示范村。

2020年2月，老山村被认定为2019年度第二批安徽省美丽乡村重点示范村。

历史沿革：1958年人民公社时名称为老山大队，1984年由老山大队更名为老山村民委员会，一直沿用至今。