据《秦安县志》记载，龙山，因断山，取名断山镇，清朝嘉庆五年，取名龙山镇，又说境内有陇山，陇和龙谐音，得名龙山。
龙山镇原名断山镇。因其山在陇口之冲，截然中止，不与众山相连而得名。一千多年前，这里曾发生过让后人扼腕叹息的街亭大战，诸葛亮挥泪斩马谡，在这块曾受-洗礼的土地上，全国四大皮毛集散地之一。龙山镇马河村是张家川县的最低点，张家川的海拔在1486米～2659.4米之间。龙山镇是该市唯一的皮毛集散地，同时也是省市文明示范建设镇之一。但是该镇旧城街道十分狭窄，路面高低不平，没有下水管道，垃圾遍地，雨天泥泞难走，是出名的“烂泥湾”。新上任不久的镇领导班子急百姓之所急，想群众之所想，积极开展旧城改造拆迁工作。该工程预计投资4000多万元。拆迁工作自4月10日开始至今，进展较为顺利，龙山镇派出所、医药+查看详细龙山镇概况>>
2023年3月，龙山镇被认定为第十二批全国“一村一品”示范村镇（肉牛）。
2023年2月，甘肃省爱国卫生运动委员会命名龙山镇为2022年度甘肃省卫生乡镇（街道）。
苗圃园遗址苗圃园遗址位于张家川县龙山镇西川村西100米。是一处仰韶文化半坡类型遗存。面积约1.5万平方米，文化层厚1.5—3米，暴露有灰坑等遗迹。曾出土有彩陶葫芦瓶、绳纹尖底瓶、夹砂深腹罐、细劲壶、盆历史沿革：西汉时，为戎邑道治所。
1953年7月，划归张家川回族自治区辖，设龙山区。
1956年10月，改为龙山镇。
1958年9月，改为龙山公社。
1983年12月，改为龙山乡。
