因政府驻地云山村得名。该地区海拔高，长年有云雾缭绕，故而得名。
云山镇位于秦安县东南部，东连清水县土门镇和远门镇，南接清水县郭川镇和天水市麦积区石佛镇，西与秦安县王尹镇接壤，北邻秦安县兴丰镇。镇域面积57.86平方公里，距秦安县城23公里，占全县总面积的3.6%。境内梁沟相间，植被较少，水土流失较重。云山镇境内南小河支流由东向西流经背洼、潘河等6个村，约9公里出境，境内最高海拔1831米；最低海拔1455米。全镇气候温和，常年多风，年平均气温7.8摄氏度，年降水量约为543.2毫米，无霜期约为170天左右。云山镇共有20个行政村，58个自然村，62个村民小组，其中有贫困村11个（深度贫困村5个），总人口4637户18270人，有耕地面积46978亩+查看详细云山镇概况>>
2024年3月，甘肃省爱国卫生运动委员会命名云山镇为2023年度甘肃省卫生乡镇（街道）。
高党村龙王庙今秦安县云山镇高党村有一座高皇太子行雨龙王庙内，史称“九如方党家庙”。此庙位于秦安县城东南，距县城20公里的高党村北边。经度105.815，纬度34.793，海拔1509.2米。占地1470赤龙山凌霄观云山,俗称赤龙山、黑故堆。清道光二十七年(1847年),在云山梁堡内修建庙宇,取名凌霄观,后来改称云山堡。云山堡山头孤高,常有云雾缭绕,远望如黑云成堆,故名黑故堆。清道光年间,为赤龙镇,民国万善寺秦安县东四十里云山上姚村砚台山有一古刹万善寺，始建年代无考世代，相传先有万善寺后有上姚家，先祖徒居建在于林中，现古刹在殿乃修葺供养礼佛，向善其地群山环绕，林野苔翠，磬石和鸣，香烟袅袅，青莲喻历史沿革：民国元年（1912年）后，设秦安县云山乡。
1954年，增设普觉、川陈乡。
1955年，合并为云山、普觉乡。
1958年，建立云山公社，境内设云山、川陈管理区。
1961年，改为云山、川陈公社。
