村因地理位置得名。山下村是古老村庄，因位于垆顶山下平原，故名。明代，称山下王村。该村在清咸丰年间因重名而更名为东山下，后演化为“山下”。
山下村是曲沃县杨谈乡下辖的行政村，城乡分类代码为220，为村庄。区划代码为141021201216，居民身份证号码前6位为141021。邮政编码为041000，长途电话区号为357 ，车牌号码为晋L。山下村与石桥堡村、北辛庄村、麦沟村、义合庄村、桥麓庄村、下院村、杨家庄村、上营村、万户村、八顷村、东杨谈村、杨谈村相邻。历史沿革：1937年，属沟西编村。
1949年，属五区，为山下行政村。
1956年，属曲村乡，归五四高级农业合作社。
1959年，属曲村公社称山下管理区。
1961年，改称山下大队，属杨谈公社。
1984年，改称山下村委会，仍属杨谈乡。
