轄區(qū)位于小河與恒河交匯處北側(cè)，當?shù)胤Q恒河為大河而得名。

大河鎮(zhèn)始建明朝中期。

清康熙二十二年（1683年），屬北沈桑鋪所轄。

民國二十四年（1935年），屬北區(qū)團后聯(lián)保與沈桑聯(lián)保的3個保，后改聯(lián)保為鄉(xiāng)，屬沈桑鄉(xiāng)一、二保。

1949年，設第十四區(qū)，后改稱大河鄉(xiāng)。

1954年，設大河區(qū)。

1958年，改大河公社大河管理區(qū)。

1961年，成立大河公社。

1983年10月，設大河區(qū)。

1984年9月，設大河鎮(zhèn)。

1996年，廟梁鄉(xiāng)并入大河鎮(zhèn)。

2001年11月，流芳鄉(xiāng)并入大河鎮(zhèn)。