春秋屬晉，戰(zhàn)國(guó)時(shí)屬趙的一邑稱(chēng)西陽(yáng)，西漢始置中陽(yáng)縣。

東漢末年并入離石縣，屬西河郡。

三國(guó)屬魏，十六國(guó)時(shí)期，初屬后趙永石郡，后屬西河郡。

前秦、前燕沿襲未變。

北朝時(shí)期屬北魏離石鎮(zhèn)。

北周大象元年（579），置寧鄉(xiāng)、平夷二縣，均屬離石郡。

隋大業(yè)三年（607）并寧鄉(xiāng)、平夷入離石為石州。

唐代一直屬石州。

五代十國(guó)時(shí)期，初屬后梁、后唐、后晉，后屬后漢、北漢。

宋屬河?xùn)|路太原府石州。

金泰和二年（1212）重設(shè)寧鄉(xiāng)縣，亦屬石州。

元代初屬山西宣慰司太原路石州，后改屬冀寧路石州。

明代屬山西承宣布政司太原府石州，萬(wàn)歷二十三年（1595）改屬汾州府永寧州，至清朝一直未變。

1914年將寧鄉(xiāng)縣復(fù)名為中陽(yáng)縣，屬山西省冀寧道至1946年中陽(yáng)縣解放。

1946年12月12日，中陽(yáng)縣解放，屬晉綏邊區(qū)離石專(zhuān)區(qū)管轄。

1949年初，晉綏邊區(qū)撤銷(xiāo)，中陽(yáng)縣改屬陜甘寧晉西北離石專(zhuān)員公署；9月山西省人民政府成立，中陽(yáng)縣屬汾陽(yáng)專(zhuān)區(qū)。

1951年3月27日，汾陽(yáng)專(zhuān)區(qū)撤銷(xiāo)，中陽(yáng)縣改屬興縣專(zhuān)區(qū)。

1952年7月，興縣專(zhuān)區(qū)撤銷(xiāo)，中陽(yáng)縣屬榆次專(zhuān)區(qū)管轄。

1958年10月，中陽(yáng)縣并入離石縣，為中陽(yáng)鎮(zhèn)。

1959年10月，恢復(fù)中陽(yáng)縣建置，屬晉中專(zhuān)區(qū)管轄。

全縣轄22個(gè)公社。

1971年5月，組建呂梁地區(qū)，從中陽(yáng)縣劃出12個(gè)公社歸柳林縣管轄，時(shí)轄10個(gè)人民公社。

1972年6月從城關(guān)公社劃出13個(gè)生產(chǎn)大隊(duì)增設(shè)蘇村公社，時(shí)下中陽(yáng)縣轄11個(gè)公社。

1984年撤銷(xiāo)人民公社建制，設(shè)7個(gè)鄉(xiāng)，轄4鎮(zhèn)7鄉(xiāng)共計(jì)11個(gè)鄉(xiāng)鎮(zhèn)。

2002年撤鄉(xiāng)并鎮(zhèn)，轄5個(gè)鎮(zhèn)2個(gè)鄉(xiāng)共計(jì)7個(gè)鄉(xiāng)鎮(zhèn)，設(shè)有13個(gè)居民委員會(huì)、87個(gè)村民委員會(huì)。

2004年4月，屬呂梁市，轄區(qū)鄉(xiāng)級(jí)政區(qū)至今未變，沿用至今。