因该地地处大龙王山的腹地，该村所有村民均居住此处，故名。
2021年12月，甘肃省爱卫会命名大山村为2021年度甘肃省卫生村（社区）。
大山村是康县长坝镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为621224105206，居民身份证号码前6位为621224。邮政编码为746000，长途电话区号为939 ，车牌号码为甘K。大山村与长坝村、李庄村、段家庄村、花桥村、吴家坝村、趙沟村、范家寺村、傅家坝村、老庄里村、山根村、田家坝村、刘沟村、高石村、王马村相邻。历史沿革：1958年成立长坝公社，属长坝公社。
1983年，撤社改乡，属长坝乡。
1989年，撤乡置镇，属长坝镇至今。
