隋炀帝大业元年（605年）三月，通济渠动工，到八月即交付使用了。通济渠工程浩大，施工时间仅为半年，不能不说是古今中外运河史上的奇迹，它反映了我们祖先无与伦比的创造力。当然，他们付出的代价也是非常惨重的。由于凿渠和造船劳累过度，约有50万人献出了宝贵的生命。古人评价隋炀帝开运河的功过时说：“在隋之民不胜其害也，在唐之民不胜其利也。”
通济渠凿成后，与邗沟一起成为黄河、淮河、长江三大流域的交通大动脉，南来北往的舟楫多走这一水路。
隋炀帝在洛阳周围建了许多大型粮仓，如洛口仓（又名兴洛仓）、回洛仓、河阳仓、含嘉仓等。这些粮仓都储有大量粮食，其中的绝大部分便是经通济渠从江淮一带运来的。
在隋朝，今河南省东北部、山西省东南部和河北省大部，是一个经济发达、人口众多的地区。隋朝推行租庸调制，按户、丁征收粟帛，征发劳力，户多丁多，上调的粟帛也多。这就需要有一条粮帛南运进京的水道。另外，隋炀帝着意开拓边疆，穷兵黩武，积极准备用兵辽东，确定涿郡（今北京市）为征辽基地，要将大量的军用物资和军事人员北运，这也需要有一条从东都到涿郡的军需供应线。因此，隋炀帝在完成通济渠之后，决定在黄河以北开凿一条航运能力较大的运河，这就是永济渠。
大业四年（608年），隋炀帝下诏征发河北诸郡男女百余万，开凿永济渠，引沁水南达黄河，北通涿郡。
唐朝，大运河的主要作用是运输各地粮帛进京。唐朝前期，南方租、调由当地富户负责北运，沿江水、运河直送洛口，然后再由洛口转输入京。这种漕运制度，由于富户想方设法逃避，沿途又无必要的保护，再加上每条船很难适应长江、汴河、黄河的不同水情，因此事故多，损耗大，每年都有大批舟船沉没，粮食损失高达20%左右。再者，运期过长，从扬州到洛口费时长达九个月。安史之乱后，这些问题更为突出了。唐朝后期，对漕运制度进行了一次重大的改革。唐代宗广德元年（763年）开始，刘晏提出了新的漕运制度，用分段运输代替直运。规定江船不入汴河，江船之运堆积在扬州；汴船不入黄河，汴船之运堆积在河阴（今郑州市西北）；黄河之船不入渭水，河船之运堆积在渭口；渭船之运入太仓。不仅如此，还规定承运工作要雇专人承担，并组织起来，十船为一纲，沿途派兵护送等。分段运送后，效率大为提高，从扬州至长安，40 天即可到达，损耗也大幅度下降。
大运河除漕运租、调外，还促进了沿线许多商业城市的繁荣。如扬楚运河（即隋朝的山阳渎）南端的扬州和北端的楚州（治所在山阳县，今为淮安市），汴河上的汴州（今开封市）和宋州（今商丘市），永济渠上的涿郡等。
扬州位于扬楚运河与长江的汇合处，公私舟船，南来北往时都要经过这里。于是，这里成了南北商人的集中地，南北百货的集散地。在全国州一级的城市中，位列第一，超过成都和广州。
汴州位于汴河北段，可经过济水东通齐鲁，可经永济渠北联幽冀，可经黄河直达秦晋，迅速发展成黄河中下游的大都会。因为它是一个水运方便的繁华城市，后梁、后晋、后汉、后周、北宋五代都建都于此。
后梁、后晋、后汉、后周、北宋都定都汴州，称之为汴京。北宋历时较长，为进一步密切京师与全国各地经济、政治的联系，修建了一批向四方辐射的运河，形成新的运河体系。它以汴河为骨干，包括广济河、金水河、惠民河，合称汴京四渠。并通过四渠，向南沟通了淮水、扬楚运河、长江、江南河等，向北沟通了济水、黄河、卫河（其前身为永济渠，但南端已东移至卫州境内）。五代时，北方政局动荡，对农业生产影响很大。而南方政局比较稳定，农业生产仍在持续发展。北宋时，对南粮的依赖程度进一步提高，汴京每年调入的粮食高达600万石，其中大部分是取道汴河的南粮。汴河是北宋南粮北运的最主要水道，因此，北宋政府特别重视这条水道的维修和治理。汴河以黄河水为水源，而河水多沙，自隋经唐到宋，经几百年的沉积，河床已经高出地面很多，汴河极易溃堤成灾。北宋朝廷见汴水无情，便组建了一支维修专业队，负责平时汴河的维修和养护。汴河一有大汛，就立即出动禁军防汛。大修时，发动沿河百姓参加。
为了巩固堤防和利用汴水冲刷河中积沙，河工特地在汴河两岸埋下了600 里的木柱排桩，将汴河束窄到可以冲沙的地步，开了后来“束水攻沙”的先河。
（四） 海塘工程
东晋咸和年间（326年-334年），吴内史虞潭在长江三角洲前沿修建海塘，是我国有确切记载的最早的海塘建筑。
隋唐时期，随着苏、沪、浙沿海一带的开发，这里的人口和耕地面积日益增加，涌潮所造成的损失也日益严重了。于是，防潮工程越来越引起人们的重视，在钱塘江北岸到长江南岸建成了一条长124里的捍海塘，南起盐官（今浙江海宁），经平湖、金山、华亭（今上海市松江县）、奉贤、南汇，北至吴淞江口。这是一条我国古代较早较长的海塘，捍卫着浙、沪间易受涌潮之害的城镇和农田。
唐代宗大历年间（766年-779年），淮南黜陟使李承在苏北也筑了一条比较重要的捍海堤。它南起通州（治所在今南通市），北至盐城，长142里，保护民田和盐灶，定名常丰堰。
此外，为了抗御海潮，在海州也筑了一条永安堤，长7里。
自秦汉到隋唐是我国海塘的初建阶段，基本上都是土塘，或者在海岸附近夯筑泥土为塘；或者像筑墙一样，用版筑法建造。这种土塘修建起来比较容易，可以就地取土，省工省力，技术也比较简单，但禁不起大海潮的冲击，必须经常维修。
从五代到南宋末年，苏、沪、浙的海塘有了进一步的发展。五代后梁开平四年（910年），吴越王钱镠在杭州候潮门外和通江门外，编竹为笼，将石块装在竹笼内码于海滨，堆成海塘，再在塘前塘后打上粗大的木桩加固，还在上面铺上大石。这种新塘称石囤塘，不像土塘那样禁不起潮水的冲击，比较坚固。但是，新塘的竹木容易腐朽，必须经常维修；同时，散装石块缺乏整体性能，无力抵御大潮。人们不断地摸索着并加以改进，终于有了正式石塘的兴建。
较早正式修建石塘的是杭州府知府余献卿。他于宋仁宗景祐三年（1036年），在杭州钱塘江岸建了一条几十里的石塘。这是壁立式石塘，用条石砌成，整体性较好，远比土塘、石囤塘坚固。但因此塘在江边壁立，直上直下，受到涌潮冲击时不能分散潮力，易被冲毁。
几年后，即宋仁宗庆历四年（1044年），转运使田瑜等人在余塘的基础上进行了较大的改动，在杭州东面的钱塘江岸建成了两千多丈的新石塘。它用条石垒砌，高宽各四丈，迎潮面砌石，逐层内收，形成底宽顶窄的塘型。塘脚以装石竹笼保护，防止涌潮损坏塘基。石塘背面衬筑土堤，用以加固石塘，并防止咸潮渗漏。
余献卿、田瑜等人在杭州附近修建石塘不久，任鄞县（治所在今宁波市）县令的王安石也在钱塘江南岸的部分地区修建坡陀塘，用碎石砌筑，砌成斜坡，其上再覆以斜立长条石。这种石塘有消减水势的作用。
北宋时期，还在苏北沿海修建了著名的“范公堤”。当时，唐朝李承修的通州至盐城旧堤已经坍毁。宋仁宗天圣元年（1023年），范仲淹出任泰州西溪盐官，建议修复并扩建旧堤，得到转运使张纶的支持。在范、张两人相继主持下，工程顺利完工，南起通州，中经东台、盐城，北至大丰县，全长180 里，人称“范公堤”。
北宋至和年间（1054年-1056年），海门知县沈起又将范公堤向南伸展70里，人称“沈公堤”。
范公堤和沈公堤捍卫了苏北的农田及盐灶，受到历代的重视。
南宋在海塘的建设方面也取得了许多成就，宋宁宗嘉定十五年（1222年），浙西提举刘垕在当地创立了土备塘和备塘河，即在石塘内侧不远处再挖一条河道，叫备塘河。将挖出的土在河的内侧又筑一条土塘，人称土备塘。备塘河和土备塘平时可使农田与咸潮隔开，防止土地盐碱化；一旦外面的石塘被潮水冲坏，备塘河可以容纳潮水，并使之排回海中。这样，土备塘便成了防潮的第二道防线，可以拦截威力不大的海潮。
（五）水利科学
在三国至唐宋这一历史时期，水利基础理论的进步主要反映在水利测量、河流泥沙运动理论以及洪水特征和规律的认识等方面。
我国至迟在唐朝就开始应用水准测量仪了。北宋年间，水位测量已在各地执行，并据以推算流量。宋金时期，对汛期水流特征和涨落规律也有形象的规律性描述。
这一时期防洪、农田水利和航运等工程技术普遍有所创新，并达到了传统水利技术的高峰。
这一时期，水利的管理也有长足进步。现存最早的全国水利法规是唐朝制定的《水部式》。这是由中央政府颁布的全国性法规，内容主要包括农田水利管理，碾磨设置及用水管理，航运船闸和桥梁的管理维修，渔业及城市水道管理等。
王安石变法时，对于兴修水利特别重视。宋神宗熙宁二年（1069年），曾颁布《农田水利约束》，这是中央政府为促进兴修农田水利工程而颁布的政策性法令，对各地兴修农田水利的组织审批方式、经费筹集、责任和权利分担、建议人与执行官吏的奖赏等，都有具体明确的规定，对于推动农田水利高潮的兴起发挥了重要的作用。