東晉開平五年(361年),置武城縣,縣治所在今武林鎮(zhèn),屬永平郡。
南朝宋元嘉二年(425年),改武城縣為武林縣,武林之名即始。
南朝梁陳時代,武林縣曾改為武林侯國。
北宋開寶五年(972年),改屬龔州,移治平南。
至此,武林作為縣城的時間長達628年之久。
今新賢新地仍有古城殘跡。
清朝,屬平南零三里。
民國二十二年(1933年),屬南一區(qū)。
1950年3月,為大安區(qū)武林鄉(xiāng)。
1958年6月,更名為武林大隊。
1984年9月,定名武林鎮(zhèn)。