古淮河，是一条独流入海的自然河流，为“四渎”之一。
古淮河的源头和支流众多，流经苏、鲁、豫、皖四省。古淮河最大的支流泗水，从鲁南、徐州、宿迁迤逦而来，至淮阴清口(亦称泗口)入淮。
淮安，位于古淮河下游。汉代桑钦在《水经》中记载了古淮河在现今淮安市境内的流向：“淮水又东历客山，径盱眙故城(今盱眙圣人山麓)西;又东北至下邳淮阴县西，泗水从西北来流注之;又东过淮阴县北，中渎水(即邗沟)出白马湖东北注之。”今洪泽湖水域的古淮河两岸，地势低平，田稻丰饶，其右岸有秦置盱眙县、淮阴县和汉置富陵县;左岸有秦置徐县和汉置睢陵县、泗阳县，人口密集而殷繁。沿淮有盱眙城、洪泽镇、大徐城、淮阴城等著名城镇。隋炀帝开凿通济渠以后，泗州城在通济渠入淮处兴起。
今洪泽湖水域的古淮河右岸有西汉射陂、东汉陈登开凿的破釜塘、曹魏邓艾开凿的白水塘等灌溉陂塘，左岸有蒲阳陂等，但面积都不大，还是以便利居住、宜于垦殖的陆地为主，是著名的屯垦区，历代屯田史中不绝书。这种局面，在公元12世纪至14世纪黄河夺淮初期，尚无明显改变。元代洪泽军屯，更高达353万亩，创历史之最。再加上民屯，面积更大。“江淮熟，天下足”这则古谚，反映了在黄河夺淮以前，这一带是灌溉农业发达之区、农业高产之区。
今洪泽湖大堤的相当一部分堤段，就肇始于汉魏乃至宋元的筑塘屯垦。因此，洪泽湖是明以前历代堰水屯田所孕育的。
洪泽湖之名，开始是破釜塘的别名。《盱眙县志稿》中记载：“洪泽湖，治北，旧曰破釜塘，一曰破釜涧，在治北三十里，隋改曰洪泽浦……河夺淮流，而洪泽始大。元初，于其旁立屯田万户府。明筑高家堰，而洪泽之水愈大，遂旁合万家、泥墩、富陵诸湖而为一。”至此，“洪泽湖”又泛指淮河右岸诸湖。“河高于湖，湖又高于淮”，淮河两岸湖洼汇一以后，洪泽湖遂泛指整个汇一的湖面，与今天的内涵相同。
今天展示在人们面前的洪泽湖，主要是黄河夺淮造就的。
南宋高宗建炎二年(1128年)，金兵南侵，宋将杜充决开黄河，以水代兵，河水部分南流，由泗入淮。自金明昌五年(1194年)河决阳武以后，黄河分为南北二支，北支由北清河入渤海，南支由泗水夺淮入黄海。此后，南支泄洪量日渐大于北支，黄河全流夺淮遂成必然趋势。明孝宗弘治七年(1494年)，刘大夏筑太行堤阻断黄河北支，其后又陆续筑断其他旁流水路，固定由泗水入淮。于是，始“以区区清口受万里全河之水”，形成黄河全流夺淮的局面。元明时期，淮阴、徐州间的黄河，是大运河漕运的组成部分，被称为“河漕”。
黄河是世界著名的多沙河流，洪汛期间，“每水一斗，其泥数升”。此外，黄河径流还具有陡涨陡落、峰高量大的特点，因而黄河向来以易淤、易决、易徙而闻名于世。黄河全流夺淮造成了两个恶果：一是黄河频频决口，阻断航道。每逢清口至宿迁境内的黄河南堤决口，浊流便涌入洪泽湖;洪汛期间，黄、淮并涨，黄强淮弱，也往往由清口倒灌洪泽湖。二是由于淮河泄流不畅，便在高家堰以西各湖洼潴积，使水位迅速增高，淹没淮河两岸聚落、田畴;频频冲决高家堰，撕开里运河堤，阻断漕运，并在里下河地区漫流。淮河决溢，水位骤降，又往往“河蹑淮后”，经由洪泽湖决口流溢出去，造成水灾连年的局面。
明万历六年(1578年)，潘季驯出任总理河漕，提出“束水攻沙”“蓄清刷黄”的治河治漕方略。即束窄黄河堤防，加快其流速，不使泥沙淤垫;拦蓄淮河清水，冲刷清口以下河床泥沙入海，保证清口以上黄河通漕，其中筑高家堰是重中之重。这在治黄治运史与洪泽湖形成史上具有划时代意义，被明代后期与清代历任河臣所遵循。
到明万历七年(1579年)，完成对高家堰的堵决并加高加厚，共计10878丈，合60.4里。次年(1580年)，又创建高家堰石工，就是在原土堤的临水面包砌石工墙，以增强大堤抗御风浪的能力，延长大堤的有效使用期。明万历十六年(1588年)四月，潘季驯第四次出任总河，共计完成石工约5800余丈。
清初，“前此诸工皆废”，形成黄淮洪水上破归仁堤，下破高家堰，突入里运河，漫流里下河的严重局面。清康熙十六年(1677年)，靳辅出任河道总督，先疏通淮河下游故道，使黄河归槽入海，再挑浚清口引河，使淮能刷黄;堵塞高家堰各处决口，并对其进行全面培修;增筑周桥以南和武墩以北土堤;创筑高家堰石堤坦坡，并建造几座减水坝。他的后任者，如张鹏翮等，大抵萧规曹随，无非是加筑石工、戗台，加高加厚堤防，铺筑坦坡，整修移建减水坝等，没有什么大的突破。
明代，洪泽湖区在水量小时，还没有连成一片，湖群与淮河仍有界限可分，洪泽湖面积约1100平方公里。如果再考虑到历经400年的淤积，明万历年间的洪泽湖面积当更大些。洪泽湖作为特大湖泊型水库，基本格局已形成。
清康熙十九年(1680年)，高家堰正堤石工比潘季驯时加高了3尺，黄、淮洪水淹没了泗州城、明祖陵，今淮阴、泗阳的黄河堤以南，除少量高地外，尽成泽国，泗洪县地势平坦的滨湖地区也成水府，盱眙的管镇、鲍集以南大部是水，其面积远比今天的湖区大。
