解放前屬于城南鄉(xiāng)第3保，1950年建政為城南鄉(xiāng)大山村，1958年成立城南人民公社連豐管理區(qū)，1961年改為連豐大隊(duì)，1981年地名普查因重名，經(jīng)渠府辦〔1982〕2號(hào)文件更名為大山大隊(duì)。

1984年體改，改為大山村。

2004年將原光明村所屬的3、4、5、6、13、14、15、16村民小組并入大山村，2018年村發(fā)展壯大將大山村調(diào)整為大山社區(qū)，2019年5月渠南鄉(xiāng)調(diào)整變更為渠南鎮(zhèn)，2019年12月行政區(qū)劃調(diào)整改革渠南鎮(zhèn)調(diào)整為渠南街道，現(xiàn)隸屬渠南街道，至今。