因地处高山，故而得名大山。曾成立大队故曾用名大山大队。

在皖南九华山脉，与祁门、东至县交界处，有一个“全国农业旅游示范点村”、安徽省新农村建设“千村百镇示范工程”示点村、“安徽省农家乐旅游示范点”、“安徽省100个特色农业示范村”。她坐拥9村民组，318户，1067人，耕地面积442亩，山场面积20600亩，茶园面积2550亩，她是一典型的九山半水半分田的山区村---大山村。大山村自然风景十分优美，境内群峰逶迤，峡谷幽深，流泉飞瀑，有翠绿的生态茶园，梯田层层，山青水秀，空气清新，生态环境极佳。大山村平均海拔1300米，最高达1786米。村民收入主要来源于茶叶，是茶叶生产专业村，大山富硒茶、仙寓毛峰茶享誉全国，供不应求，有名的雾里青茶原产地就+查看详细大山村概况>>

2023年11月，被确定为2022年安徽省卫生村（社区）。

2023年10月，被确定为2023年度安徽省和美乡村精品示范村。

2023年4月，安徽省农业农村厅认定大山村为2023年度安徽省美丽宜居村庄。

仙寓庙遗址仙寓庙遗址位于仙寓镇大山村仙寓山组，年代为明代，类别为古遗址，为石台县县级文物保护单位。保护范围：遗址本体范围。建设控制地带：遗址本体范围。历史沿革：1958年人民公社化时属占大公社，1962年从市里大队划出，成立大山大队，属珂田公社。

1984年10月体制改革时改为大山村村民委员会。

2008年市里村、双坑村并入仍称为大山村村民委员会。