唐武德元年（618年），設平陵縣（今關山粟邑廟附近）。

唐武德二年（619年），改平陵縣為粟邑縣。

唐武德年間，粟邑縣屬雍州。

唐貞觀八年（634年），撤粟邑縣并入櫟陽縣。

元至元四年（1267年），隨櫟陽縣并入臨潼縣。

明萬歷五年（1577年），設立關山鎮(zhèn)，為撫民廳駐地。

清雍正八年（1730年），臨潼縣丞移駐關山。

清嘉慶元年（1796年），設縣丞署。

民國二年（1913年），設縣佐署。

民國八年（1919年），設臨潼分縣，管理臨潼縣渭水以北各鎮(zhèn)事務。

民國十九年（1930年），分縣廢。

民國二十三年（1934年），推行保甲制度，關山設立聯保處。

民國二十九年（1940年），改聯保為鎮(zhèn)，下轄6保64甲。

1949年5月，改為臨潼縣關山區(qū)。

1950年4月，設立臨潼縣第八區(qū)，轄7鄉(xiāng)。

1958年，為相橋公社關山管理區(qū)。

1961年，撤銷管區(qū)，成立關山公社。

1984年，改設關山鄉(xiāng)。

1987年8月，關山鄉(xiāng)劃歸西安市閻良區(qū)管轄。

1997年7月，撤銷關山鄉(xiāng)，設立關山鎮(zhèn)。

2002年2月，撤銷康橋鄉(xiāng)，并入關山鎮(zhèn)。