清代同治十二年（1873），屬禮賢鄉(xiāng)十三都和十四都、青云鄉(xiāng)的十都和六都。

1927年，廢都設河上區(qū)，二十四年改為區(qū)屬，轄區(qū)分屬一、三、五區(qū)；1938年，改為鄉(xiāng)公所。

1950年4月成立河上區(qū)人民政府，五月撤區(qū)成立鄉(xiāng)人民政府，1958年9月，成立河上人民公社，轄河上、三山，東來，1961年成立三山工作片委員會，轄河上、東來、元家、三山、白陂五個公社及羅山墾殖場，1964年9月復稱河上人民公社，轄東來、三山、河上五個公社及羅山墾殖場，1972年三山劃出，1977年東來劃出，1984年6月河上公社改為河上鄉(xiāng)，1985年10月撤鄉(xiāng)改為河上鎮(zhèn)，2001年9月撤東來鄉(xiāng)，并入河上鎮(zhèn)，得名后沿用至今。