秦為郯郡的蘭陵縣、鄫縣;西漢時屬于東海蘭陵縣;東漢時屬東?;三國時屬魏;晉時屬蘭陵郡;隋屬蘭陵縣,后改氶縣;唐屬蘭陵縣,后改為氶縣;元屬嶧州;明屬濟寧府,后屬兗州府;清屬嶧縣。
中華民國時期,仍屬于嶧縣,沿襲清制。
1949年底隸屬于嶧縣,屬臺棗專屬領(lǐng)導(dǎo);1953年7月滕縣專屬與湖西專屬合并建立濟寧專屬后,隸屬于濟寧專屬第六區(qū);1958年3月,10個區(qū)建制合并后建鄉(xiāng),同年9月合并建立13處人民公社,底閣公社駐地設(shè)在峨山,更名為峨山人民公社,實際是由蘿藤、底閣、甘溝、左莊鄉(xiāng)合并而成。
1960年1月7日撤銷嶧縣建制,建立縣級棗莊市后,隸屬棗莊市領(lǐng)導(dǎo);1960年3月峨山公社轄左莊、香屯、底閣、各塔埠、蘿藤、褚林、夏莊、任莊、甘溝、運卜屯11個管理區(qū);1961年9月棗莊改為省轄市劃社并區(qū)。
左莊公社、峨山公社、蘿藤公社屬嶧城區(qū)領(lǐng)導(dǎo);1984年建鄉(xiāng)。
2001年3月撤左莊鄉(xiāng)、蘿藤鄉(xiāng)合并為峨山鄉(xiāng),同年11月29日撤鄉(xiāng)改鎮(zhèn)為現(xiàn)名至今。