明、清時屬大羊里。
中華民國元年(1912年),歸關(guān)頭聯(lián)保,后改關(guān)頭鄉(xiāng)。
1949年后,屬關(guān)頭區(qū)(八區(qū))。
1956年,成立梁山鄉(xiāng)、吳店鄉(xiāng),歸陽峪區(qū)。
1958年4月,由吳店鄉(xiāng)分出關(guān)頭鄉(xiāng)。
1958年9月,梁山、吳店2鄉(xiāng)合建幸福公社,關(guān)頭鄉(xiāng)改為春風(fēng)公社(后改關(guān)頭公社)。
1961年,成立梁山公社、吳店公社。
1984年,改梁山鄉(xiāng)、吳店鄉(xiāng)、關(guān)頭鄉(xiāng)。
2001年,撤銷吳店鄉(xiāng)并入梁山鄉(xiāng)。
2011年,撤銷關(guān)頭鄉(xiāng)、梁山鄉(xiāng)合并設(shè)立梁山鎮(zhèn)。