605年，隋炀帝即命开凿大运河，“发河南诸郡男女百余万，开通济梁，自西苑引谷、洛水达于河（黄河），自板诸引河通于淮”，长1000多公里。
608年，隋炀帝沿洛阳东北方向开凿永济渠，沟通沁河、淇水、卫河，通航至天津，接着，溯永定河而上，通涿郡。
610年，隋炀帝继续开凿江南运河，使得镇江至杭州段通航。
至此，以京都洛阳为中心，通过通济渠、永济渠两大渠道，沟通了海河、黄河、淮河、长江、钱塘江五大水系，总长2700公里的中国南北大运河全线贯通。
通济渠：又称汴水、汴渠、汴河，全长650公里。自河南荥阳的板渚出黄河，至江苏盱眙入淮河，共历现今三省十八县（市），顺序为：河南省的荥阳、郑州、中牟、开封市、开封县、杞县、睢县、宁陵、商丘、虞城、夏邑、永城；安徽省的濉溪、宿州、灵壁、泗县；江苏省的泗洪、盱眙。
汴河的前身乃战国时的鸿沟。鸿沟是战国时期陆续开凿成功的，是当时中原大规模的水利工程。公元前364年，梁惠王欲称霸诸侯，从山西安邑（今山西夏县西北）迁都大梁（今开封市）。迁都后两次兴工开凿运河：公元前360年，魏国曾在黄河圃田（今郑州市中牟县西）间开凿一条大沟，引黄河水入圃田，又从圃田开凿运河用于农田灌溉；公元前339年，魏国又从大梁城的北部开凿大沟引圃田水灌溉农田，这就是鸿沟最早开凿的一段。鸿沟的主干，以魏都大梁为中心，从今荥阳县以北，和济水一起分黄河水东流，经过魏都大梁，折向东南再经过陈的旧都（今淮阳县），向南注入颍水，而颍水下流注入淮河。另有丹水成为鸿沟的分支，从大梁东流到彭城（今江苏徐州市）注入泗水；睢水从大梁以南自鸿沟分出东流，经过宋都睢阳（今商丘市睢阳区），经安徽宿县，江苏睢宁县以北，注入泗水；濊水也在大梁以南从鸿沟分出向东南流，经过蕲（今安徽宿县南）而流入淮水。这样以大梁为中心，就构成了济、汝、淮、泗之间的水运交通网。大梁凭借优越的水利交通条件，初步显露出它在历史上的重要地位，成为“诸侯辐辏”的魏国国都。魏国灭亡后，鸿沟不断遭到毁弃，秦汉南北朝之际，这里先后出现过沙水、蔡水、汴水、官渡水、莨荡渠等名称的河流，尽管这些河流并不是一个河床，可走向都是自开封附近或南或东，大体上都是东南走向，流入淮河。开封可以说是黄河、淮河两大水系的一个联结点。
通济渠是于公元605年开掘的隋唐大运河的首期工程，连接了黄河与淮河，贯通了洛阳到扬州，作为中华帝国最鼎盛时期的交通大动脉，“枢纽天下、临制四海，舳舻相会、赡给公私。”历经隋、唐、五代、宋、辽、西夏、金、元八个朝代，通航了720年。
公元605年，杨广力排众议，下令由杰出工程专家宇文恺主持，开凿大运河，主要是开凿通济渠和永济渠。
通济渠施工时，充分利用了旧有的渠道和自然河道，但因要行龙舟，龙舟舟体巨大，运河必须凿得很深，否则无法通行。如此浩大而艰巨的工程，杨广要求的时间却极短。从3月动工，到8月就全部竣工了，创造了人类开凿运河的奇迹。当然，这种奇迹的创造，付出了血的代价。在凿渠和造船过程中，“役丁死者什四五”。官员以车载死丁，“东至城皋，北至河阳，相望于道”。
通济渠开通后，杨广立刻从洛阳登上龙舟，带着后妃、王公、百官，乘坐几千艘舳舻，南巡江都。因此，隋朝时称通济渠为御河。
《虞城县志》记载了一段杨广沿通济渠“巡游”的盛况：“偕皇后、嫔妃、贵戚、官僚、僧尼、道士等，分乘龙舟、杂船五千二百余艘巡幸江都。”杨广乘坐的龙舟，实际上是奢侈豪华的水上宫殿，其“龙舟四重，高四十五尺，长二百丈，上重有正殿、内殿、东西朝堂。中二重有二百房，皆饰以金玉，下重有内侍处之”。而皇后乘坐的翔螭舟，除尺寸略小一点外，其装饰和龙舟无异。在龙凤舟前后，另有三重高的花、鸟、虫、鱼彩船九艘，作为流动的“浮景”以供帝妃、王储、公主们游乐。这些龙凤舟和“浮景”船队，组成水上宫殿群体。尾随其后的是各类随行官员的船只数千艘，其后还有补给船只，承载各种供奉之物，以备随时之用。
这十几万人的“流动宫殿”，穿州过县，游山玩水，乐坏了皇帝、嫔妃，忙坏了地方官吏，害苦了黎民百姓。
隋大业十二年（公元616年），杨广决定三游江都。当时，全国已经民不聊生、烽烟四起，一些耿直之臣上书劝谏，结果多人被杀。当杨广所乘龙舟行至梁郡（今商丘）时，官绅带领一些群众拦路上书谏阻，结果同样惨遭处死。就是在那次巡游到达目的地江都后，失道寡助的杨广被“右屯卫将军”宇文化及勒死在江都行宫。
黄河与淮河。
通济渠又称汴河，作为隋唐大运河的首期工程，连接了黄河与淮河，自河南荥阳的板渚出黄河沟通了江苏盱眙境内的淮河，全长650公里，是古代中国劳动人民创造的一项伟大工程。
通济渠自河南荥阳的板渚出黄河，至江苏盱眙入淮河，共历现今三省十八县（市），顺序为：河南省的荥阳、郑州、中牟、开封市、开封县、杞县、睢县、宁陵、商丘、虞城、夏邑、永城；安徽省的濉溪、宿州、灵壁、泗县；江苏省的泗洪、盱眙。