据《中牟县地名志》记载:“小胡村位于县城东南11千米处，清同治年间由胡家庄析此”。与大胡村对应，故名。
小胡村位于镇政府南偏东9公里处，村委会所在地，西邻山胡路，总面积3.9平方公里，和南岗自然村共同构成小胡行政村，辖区5个村民小组，耕地5970亩、自管党员76人。小胡村与刘张村、岗王村、老八庄村、杨庄村、七里岗村、闫家村、念罗村、十里头村、十八里卢村、雷家村、雍家村、土山店村、姚家村、罗宋村相邻。信息来源：中牟县阳光政务网历史沿革：明、清先后属青宁保（里）、土山保（里）。
1956年为小胡村，属姚家中心乡。
1958年建小胡生产大队，属姚家公社。
1983年改为小胡村民委员会，属姚家乡。
2011年撤乡改镇，属姚家镇至今。
