因该村居民多为康姓人家，且居住在山上，故名。
康家山村是临洮县中铺镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为621124105217，居民身份证号码前6位为621124。邮政编码为743000，长途电话区号为932 ，车牌号码为甘J。康家山村与马家山村、康泉村、康家沟村、伊寺村、何家山村、崔家山村、田家沟村、湾腰子村、王家沟村、龚家掌村、摩云村、下铺村、南家村、蒋家山村相邻。历史沿革：1958年为康家山生产队，1961年体制化小时为康家山大队，1968年改名为田洁大队，1972年复名康家山大队，1979年为马家山人民公社马家山大队，1983年2月为马家山乡康家山村，2000年12月为何家山乡康家山村，2004年5月为中铺镇康家山村至今。
