清同治年間(1862-1874),屬天授鄉(xiāng)甘泉里二十八都和巴山里三十一都、三十二都。
1911年至1949年先后隸屬公溪、航橋、桐江和龔坊等鄉(xiāng),1956年3月成立山碭鄉(xiāng);1958年成立山碭人民公社;1959年山碭公社撤銷,所轄大隊(duì)、生產(chǎn)隊(duì)分別劃入公溪、龔坊公社;1961年10月進(jìn)行社隊(duì)規(guī)模調(diào)整,重新恢復(fù)山碭公社,駐地山碭村;1968年8月擴(kuò)社并隊(duì),山碭公社被撤銷并入龔坊公社;1980年2月由龔坊公社劃出,設(shè)立山碭公社,駐流坊村;1984年5月體制改革,撤社改鄉(xiāng);2001年3月撤鄉(xiāng)建鎮(zhèn);2001年11月,撤銷航橋鄉(xiāng)并入山碭鎮(zhèn)。
得名后沿用至今。