相传古有胡姓住户从东胡村迁居于此，村庄规模不大，故取名为小胡。

小胡村是卜宜乡离县城比较近的村庄之一，全村共620户，2350口人，今年新型合作医疗参保人数为2066 人，全村共有93人享受最低生活保障。 小胡村种植业比较发达，种植种类多样.，本村有耕地1150亩，除播种粮食作物以外，还种植油料作物，蔬菜等。本村农作物播种面积为1753亩，粮食作物播种面积为1690亩，其中粮食以种植玉米为主，玉米种植面积为1600亩，小麦种植面积为20亩，油料作物的播种面积为13亩，蔬菜的播种面积为50亩。2009年粮食总产量为664吨，小麦总产量为6吨，玉米总产量为640吨，油料总产量为6吨 ，蔬菜总产量为150吨。 另外还种植了部分果树，干果总产量为240吨+查看详细小胡村概况>>

2023年11月，山西省爱国卫生运动委员会命名小胡村为2023-2025年山西省卫生村。

2020年8月，山西省爱国卫生运动委员会命名小胡村为2020—2022周期山西省卫生村。

历史沿革：1961年12月，设立小胡生产大队，1984年3月，撤销小胡生产大队，设立小胡村民委员会。