因境内山上一岩洞内供有观音佛像，又因村委会驻地，故得名。

位于县城东北部23公里，距但家庙镇中心集镇6公里，于2004年10月在霍山县村级规模调整中由原团墩、倪冲、观音岩、舒家庙四村合并而成，东邻裕安区横塘乡，南毗本镇但家庙村，西接下符桥镇沈家畈村，北连金安区青山乡，总面积23.4平方公里，下辖毛岭、观音岩、倪院、李院、沈畈、小吴冲、陈榜、油坊、谷畈、青年、槽坊、尧观冲、桂花冲、张管冲、胡洼、下院、小广冲、西冲、舒祠、邓榜、舒庙、沈院、枣树井、白云、岭坎、小龙井、大龙井、大堰、叶河、大庄、黄榜、杨行、田院、老庙冲、刘山、团墩、八斗冲、洪堰、尤畈、李冲、但院、石嘴、六房院、黄冲等44个村民组，1212户，截止2010年全村总人口4643人(男2418人+查看详细观音岩村概况>>

2026年6月，上榜2026年度“皖美休闲旅游乡村”名单。

2026年4月，入选安徽省2026年度全省和美乡村精品示范村建设名单。

2023年11月，观音岩村被认定为第三批全国乡村治理示范村。

2022年12月，安徽省委农村工作领导小组公布2022年安徽省乡村振兴示范村创建名单，观音岩村上榜。

2020年2月，观音岩村被认定为2019年度第二批安徽省美丽乡村示范村。

2019年12月，安徽省农业农村厅认定观音岩村为第十二批安徽省“一村一品”示范村（虾稻综合种养）。

1958年隶属于火箭人民公社，成立观音岩大队。

1972年重新隶属于团墩公社。

1983年改村建制，隶属于团墩乡，将观音岩大队改为观音岩村。

1992年，随团墩乡并入但家庙镇。

2004年，舒家庙村、团墩村和倪家冲村并入观音岩村。