清代中晚期,稱“帳房山”。
清光緒二十九年(1903),中東鐵路在此建火車站,定名“海林”。
始成為地名。
清宣統(tǒng)二年(1910年),隸屬寧安府。
1921年屬寧安縣團聚鄉(xiāng)。
1933年設海林保。
1939年設海林村,后改稱海林街。
1946年8月設置新?h,為新?h駐地,設置海林區(qū)。
1948年8月,新海、五林兩縣合并為海林縣后,仍設海林區(qū)。
1949年10月改為第六區(qū)。
1955年復稱海林區(qū)。
1956年3月撤銷海林縣,劃歸寧安縣管轄,同年11月設置海林鎮(zhèn)。
1958年9月,成立海林人民公社。
1962年10月30日,恢復海林縣,為海林縣駐地。
1964年5月,將海林人民公社劃分為海林鎮(zhèn)人民公社和新合人民公社。
1980年6月,撤銷海林鎮(zhèn)人民公社,改設海林鎮(zhèn)。
2001年2月,將石河、新合兩鄉(xiāng)并入。
名稱沿用至今。