以小关岙自然村得名。古与大关岙合称关岙。宋宝庆《四明志》卷七和元大德《昌国州图志》卷二均有“关岙”地名记载，为宋元时期昌国县（州）蓬莱乡69岙之一。因其为古巡海水师驻守和设关之处得名。宋宝庆《四明志》卷七：“神前、石衕、三姑、宜山、马迹、关岙、海驴礁及海南北中间，其昼夜巡徼者，三日一报枢密院及尚书省。”1949年版《奋进中的嵊泗列岛》：“此港形势紧固，宜以关名。”清代和民国时期，曾别称小官岙、小官澳。澳，古同“岙”，官岙，系关岙的谐音误写。

2024年1月，入选浙江省2023年度省级“民主法治村（社区）”名单。

小关岙村是嵊泗县菜园镇下辖的行政村，城乡分类代码为220，为村庄。区划代码为330922100206，居民身份证号码前6位为330922。邮政编码为316000，长途电话区号为580 ，车牌号码为浙L。小关岙村与马迹村、石柱村、金平村、关岙村、青沙村、高场湾村、基湖村、菜圃社区、海滨社区、沙河社区、东海社区、绿华村相邻。历史沿革：1934年属马关乡第二保。

1984年析设为小关岙村民委员会。