原名溪口乡，以驻地村名。境内山林面积广，森林资源丰富，故名。

开化县辖乡。1950年设溪口乡，1958年建霞湖公社，1961年改公社，1981年更名林山公社，1983年改乡。位于县境东部，马溪西岸，距县城9公里。面积145平方公里，人口1.4万。城(关)大(溪边)公路过境。辖詹村、琅川、外徐、田后、梅岭、花桥、江家、黄沙、林源、霞湖、塘丘、舜山、西山、石桥、大举、上汪、下江、举塘、俭口、大源、利平21个村委会。舜山村1959年获“华东地区造林模范集体”称号。俭口村1963年被林业部命名为“林业先进单位“。农业主产水稻、小麦、大豆。特产茶叶、油茶子、山苍子。县菌菇生产基地之一。工业以铸造、木林加工为主。主要产品汽车钢柱环、木制家具、木质包装箱等。荣誉排行：

2024年12月，被认定为2024年度浙江省A级景区镇（4A级景区镇）。

2023年1月，林山乡被认定为2022年度浙江省森林城镇。

2021年12月，浙江省民政厅认定林山乡为浙江省革命老区乡镇（街道）。

2021年12月，林山乡被命名为2021年浙江省卫生乡镇。

2011年10月，环境保护部授予林山乡2011年国家生态建设示范区之“全国环境优美乡镇”称号。

舜山詹氏祠堂詹氏祠堂位于林山乡舜山村·民国·第五批县文物保护单位。共有三进，一、二进间有天井，天井两边有走廊相连，廊有楼，占地面积约576平方米。第一进戏台。第二进大厅牛腿、平盘斗、雀替雕刻非常精美。第六合同春六合同春位于开化县林山乡田后村。由六姓氏合资建造之祠堂。共有两进，中有天井，总面积256平方米。第一进戏台，明间采用减柱方法，面阔五间，通面阔13米，明、次间作戏台，前檐柱被减。第二进地面高历史沿革：1934年称同源乡。

1950年4月撤同源乡、桂岩乡，建溪口乡、菖蒲、花桥乡。

1956年3月花桥乡并入溪口乡，菖蒲乡改称前进乡。

1958年9月溪口乡、前进乡合并建霞湖人民公社，设菖蒲、溪口、下江管理区。

1961年9月撤销霞湖公社，分设菖蒲、溪口公社。

1981年12月更名为林山公社。

1983年1月改称林山乡，名称沿用至今。