清乾隆三十七年（1772年），鳳凰巡檢司移駐大孤山，歸屬岫巖州。

清咸豐年間（1851年—1861年），建鎮(zhèn)。

清光緒三十二年（1906年），隸屬莊河廳。

民國四年（1915年），改設(shè)縣佐。

東北淪陷后，日偽當(dāng)局設(shè)莊河縣大孤山第六區(qū)公署大孤山街公所。

民國三十五年（1946年）7月，莊河、岫巖、鳳城、安東4縣轄區(qū)內(nèi)各劃出部分區(qū)域成立孤山縣。

大孤山街為孤山縣政府駐地。

1949年，撤銷孤山縣，建立孤山鎮(zhèn)，劃歸安東縣所轄。

1958年9月12日，孤山鎮(zhèn)、孤山鄉(xiāng)、菩薩廟鄉(xiāng)、新農(nóng)鄉(xiāng)合并，成立孤山公社，屬安東縣。

1965年3月1日，歸東溝縣所轄。

1966年1月，恢復(fù)孤山鎮(zhèn)建制。

1973年11月，恢復(fù)孤山公社城鎮(zhèn)辦事處建制。

1980年9月，建立孤山鎮(zhèn)。

1985年3月，孤山鎮(zhèn)升格為副縣級建制鎮(zhèn)。

1988年8月，孤山鎮(zhèn)與孤山鄉(xiāng)合并，建立孤山鎮(zhèn)。

1993年，撤東溝縣建東港市，孤山鎮(zhèn)隸屬東港市。

2002年1月10日，孤山鎮(zhèn)與新立鎮(zhèn)合并，設(shè)立為孤山鎮(zhèn)。