在清朝年间，此山上住着姓李的人家，故名。
李上山村是环县小南沟乡下辖的行政村，城乡分类代码为220，为村庄。区划代码为621022212203，居民身份证号码前6位为621022。邮政编码为745000，长途电话区号为0934 ，车牌号码为甘M。李上山村与李原村、粉子山村、连川村、丁寨柯村、天子渠村、陈掌村、汪天子村、小南沟村、许掌村、燕麦掌村、杨胡套子村相邻。历史沿革：1958年成立了小南沟人民公社，命名为小南沟人民公社李上山大队。
1983年撤社设乡，更名为小南沟乡李上山村民委员会，沿用至今。
