西周為曹國北境。

春秋時期，境域大部屬宋，西北部屬魏，東北部屬魯。

戰(zhàn)國時期，先屬宋，后屬齊。

秦屬東郡。

西漢屬梁國，后為呂都、葭密、句陽、冤句、成陽均屬濟(jì)陰郡，離狐縣屬東郡。

東漢境域句陽、冤句、成陽、離狐屬濟(jì)陰郡。

廢葭密、呂都同入冤句縣。

三國沿用東漢舊制。

晉，句陽、離狐、冤句、成陽屬濟(jì)陰郡。

南北朝，屬北魏，孝明帝孝昌三年（527）置西兗州（治定陶）統(tǒng)二郡，今區(qū)屬濟(jì)陰郡。

北齊、北周均沿襲北魏政區(qū)設(shè)置。

隋，乘氏、冤句屬濟(jì)陰郡，離狐縣屬東郡，雷澤縣屬東平郡。

唐武德四年（621）濟(jì)陰郡改為曹州，復(fù)置乘氏縣，乘氏、冤句、南華屬曹州，雷澤屬濮州，兩州均隸于河南道。

北宋初屬曹州，崇寧元年（1102）曹州升為興仁府，乘氏縣屬之。

金大定六年（1166）廢乘氏縣入濟(jì)陰縣，八年（1168）濟(jì)陰縣城為黃河水淹沒，曹州與濟(jì)陰縣遂徙治所于乘氏故城（今菏澤市區(qū)）。

元，濟(jì)陰縣仍屬曹州。

明洪武元年（1368）省濟(jì)陰縣入曹州。

二年徙曹州治所于今曹縣城，四年降曹州為曹縣。

正統(tǒng)十年（1445）復(fù)于乘氏故城置曹州。

清，為菏澤縣，并置菏澤縣為府治所，隸于山東省。

雍正二年（1724）曹州升為直隸州，十三年（1735）升州為府，設(shè)附郭縣，賜名菏澤，是菏澤為縣名之始，并置菏澤縣為府治。

1913年菏澤縣屬濟(jì)寧道。

1925年山東省由4道改為11道，菏澤縣屬曹濮道。

1928年廢道，直隸于省。

1938年9月山東省第二行政督察專員公署分為第十、第十一、第十二專署，菏澤屬第十專署。

1938年5月14日，日軍侵占菏澤城，不久棄城去開封。

1939年7月3日，日軍再次侵占菏澤城，建立偽菏澤縣公署，屬山東省曹州道尹公署。

國民黨十專署軍政人員逃亡縣西北鄉(xiāng)間，建立流亡政府。

1940年6月，日偽在山東省建十道，于菏澤城置曹州道尹公署，日偽菏澤縣公署。

1941年2月本區(qū)在菏澤、巨野交界處建立巨菏抗日縣政府，屬魯西二專署，1942底撤銷。

1941年3月與定陶、曹縣交界處，以安陵集為中心建立菏澤抗日縣政府，屬冀魯豫三專署。

1942年9月在本區(qū)與東明縣交界處以高莊集為中心，建立南華抗日縣政府，屬晉冀魯豫邊區(qū)第二十二專署，1942年10月改稱晉冀魯豫邊區(qū)第二十專署，菏澤縣屬之。

1944年8月改稱冀魯豫行政區(qū)第十專署，菏澤縣隨屬。

1943年11月，在菏澤北部和鄄城東南彭樓一帶建臨澤縣抗日政府，屬晉冀魯豫十七專署。

1944年8月改稱冀魯豫第八專署，臨澤縣屬之。

9月，南華縣劃入冀魯豫八專署。

1944年12月又分為臨澤、鄆巨2縣，涉及今境內(nèi)沙土集、都司鎮(zhèn)。

1945年10月29日我軍攻克菏澤城，冀魯豫行政公署進(jìn)駐城內(nèi)，同時南華縣從冀魯豫八專屬劃歸十專署。

1946年1月在菏澤城區(qū)建菏澤市，直屬冀魯豫行政區(qū)。

同時改冀魯豫十專署為冀魯豫第五行政區(qū)督查專員公署，菏澤縣、南華縣屬之；改冀魯豫八專署為二專署，臨澤縣屬之。

1948年3月南華縣由冀魯豫五專署劃二專署。

同年9月30日，菏澤再次解放。

冀魯豫行署和臨澤縣政府移駐菏澤城，同年11月，由菏澤、南華、臨澤轄區(qū)內(nèi)之各一部建菏澤縣，同時裁撤臨澤縣（臨澤縣北部入鄄城）。

原菏澤縣下余區(qū)域改為安陵縣，仍屬五專署。

1949年8月20日，平原省建立，南華、安陵2縣撤銷，大部并入菏澤縣，南華縣之一小部并入東明縣，撤銷冀魯豫行署所轄各專署，建菏澤專員公署（駐菏澤城）。

同年撤南華、鄆巨、安陵3縣，其轄區(qū)分別劃入菏澤、東明、鄄城、曹縣、鄆城。

1952年11月30日，撤銷平原省，縣隨菏澤專區(qū)改屬山東省。

1958年12月撤銷菏澤專區(qū)，菏澤縣改屬濟(jì)寧專區(qū)。

1959年9月復(fù)置菏澤專區(qū)（1967年改稱菏澤地區(qū)），菏澤縣仍為專署駐地。

1960年10月撤銷菏澤縣，設(shè)立菏澤市。

1963年3月撤市復(fù)縣。

1983年10月撤銷菏澤縣，設(shè)立菏澤市。

2000年6月23日，撤銷菏澤地區(qū)和縣級菏澤市，設(shè)立地級菏澤市；菏澤市設(shè)立牡丹區(qū)，以原縣級菏澤市的行政區(qū)域為牡丹區(qū)的行政區(qū)域。