民國后期，為鬱林縣平山鄉(xiāng)。

1949年12月，設小平山鄉(xiāng)，屬鬱林縣。

1950年6月，撤鄉(xiāng)改屬第十區(qū)。

1953年，設第十五區(qū)，鳳氍林縣。

1955年9月，第十五區(qū)改為小平山區(qū)；次年3月，小平山區(qū)改屬玉林縣。

1957年12月撤區(qū)改鄉(xiāng)，小平山區(qū)析為小平山、賣酒兩鄉(xiāng)。

同屬玉林縣；次年10月，設五一公社，屬玉林縣。

1959年4月，五一公社改名小平山公社。

1984年10月，小平山公社撤改為小平山鄉(xiāng)，屬玉林市。

1987年7月，小平山鄉(xiāng)析置賣酒鄉(xiāng)，同屬玉林市。

1997年4月，小平山鄉(xiāng)劃歸興業(yè)縣。

2002年5月，小平山鄉(xiāng)改小平山鎮(zhèn)，屬興業(yè)縣。