清咸豐年間(1851-1861)稱五道荒、立集店,清光緒七年(1881),于設(shè)置五常廳的同時(shí),設(shè)立五常廳山河屯分防站。
民國時(shí)期,稱為五?h第二區(qū)。
1945年東北光復(fù)后為山河區(qū)、山河縣,民國時(shí)期,集鎮(zhèn)擴(kuò)大,稱為第二區(qū),偽滿洲國時(shí),設(shè)立山河屯街公所。
1947年1月成立山河縣,為吉北地區(qū)督察專員公署山河縣治所在地,同年11月撤銷山河縣改為舒蘭縣山河區(qū)。
1948年6月劃歸松花江省五常縣,為第十區(qū),1953年8月,設(shè)立十區(qū)山河鎮(zhèn)人民政府,1956年從原十區(qū)中又劃分出平安、雙興、愛路、保山4個(gè)鄉(xiāng)。
1958年成立山河鎮(zhèn)人民公社,1980撤銷公社制設(shè)立山河鎮(zhèn),名稱沿用至今。