境内原有两座山，取名“两家山”，简称“两山”，后因水泊梁山之名气，取其谐音，更名为“梁山”，故得名。

梁山村位于全军乡西北部，东与梅山镇龙湾村接壤，西与前龙村交界，南与全军村相连，北与河南省固始县的汪岭村毗邻，长江河沿村而下形成了天然的省界。境内多为大山区，位于平原地带的梁山小集镇是全村政治、经济、文化的中心。全村总面积18308亩，其中山场面积14108亩，耕地面积795亩。辖16个村民组，482户，1826人。现有党员48名。梁山村产业特色鲜明，生态环境优美，公共服务基本健全，村容村貌整洁，集镇建设初俱雏形。 一是区位优势明显。梁山村地处豫皖两省交界结合部，距县城江店新城区15公里，距乡政府12公里，距沪陕高速、合武高速及沪汉蓉铁路均半小时车程，处于合肥、武汉等大城市2小时+查看详细梁山村概况>>

2023年5月，梁山村小湾中心村被批准为2023年度美丽乡村省级中心村。

2019年9月，梁山村被认定为2019年度第一批安徽省美丽乡村示范村。

2019年1月，2018年度六安市市级卫生村（社区）名单公布，梁山村上榜。

龙津溪地景区龙津溪地景区位于金寨县全军乡梁山村，按照“一线、二桥、三潭、六瀑、九亭”的设计布局，集旅游观光、休闲度假、会议养生、运动拓展、探险娱乐、文化体验等功能于一体，特色项目有丛林小火车、玻璃水滑漂历史沿革：解放后属全军乡；1961年成立梁山大队，隶属于全军公社。

1983年成立梁山村，隶属于全军乡至今。