宋至清為神泉里，屬上元縣神泉鄉(xiāng)、清化鄉(xiāng)地。

清末改稱湯水鎮(zhèn)。

中華民國屬江寧縣。

1934年改稱湯山鎮(zhèn)。

1949年沿之。

1954年屬江寧縣湯山區(qū)。

1956年湯山鎮(zhèn)劃為縣屬鎮(zhèn)。

1958年湯山鎮(zhèn)改湯山人民公社，上峰鄉(xiāng)改上峰人民公社。

1961年從湯山人民公社析置縣屬湯山鎮(zhèn)。

1982年湯山、上峰2公社分別改湯山鄉(xiāng)、上峰鄉(xiāng)。

1983年5月湯山鄉(xiāng)并入湯山鎮(zhèn)。

1996年2月上峰鄉(xiāng)改鎮(zhèn)。

2005年12月湯山鎮(zhèn)改街道。

2006年3月上峰鎮(zhèn)和麒麟鎮(zhèn)悅民、麒麟門、麒麟鋪、晨光、鎖石、東流、青西、袁家邊8個社區(qū)（村）并入。

2010年5月麒麟門、麒麟鋪、晨光、鎖石、東流、袁家邊6個社區(qū)（村）析出。

2011年5月樺墅村、孟北村劃歸棲霞區(qū)西崗街道至今。