隋王朝結束了分裂數百年之久的紛擾政局，形成了南北統一的強大國家，對這個國家如何加強控制與有效管理則被提到日程上來。水運比較省力，也適於大量運輸，所以隋王朝在立國之始，即重視漕運工程，以後修築了好多條重要運渠，為以後構成全國性的水運網奠定了基礎。修渠通漕幾乎與隋朝歷史相終始，隋代先後修有廣通渠、山陽瀆〔du讀，溝、渠的意思〕、通濟渠、永濟渠與江南運河等幾條重要運河。
廣通渠為最早興修的一條，起自京師大興，東到潼關附近，主要將關東糧食，西運京城。關中地區古稱陸海，本為豐富的糧食產地。可是那裡地小人稠，常常感到糧食供不應求，並且渭河水量變化也大，往往沙深水淺難以利用。所以在隋立國的第四年，即動工興修廣通渠300餘里以濟運輸。不過如遇大的天災，仍難滿足需要。開皇十四年(公元594年)關中大旱，文帝就曾就食洛陽。這也是隋代營建東都的重要原因之一。
山陽瀆修於開皇七年(公元587年)，目的在於運兵運糧，以便渡江滅陳。這條水路主要是利用古代所開的邗溝故道，加以疏通拓展，第二年即由楊廣(煬帝)挂帥，攻入建康，使南北統一。
通濟渠為煬帝即位後所修。他營建東都(洛陽)並興建顯仁宮與規模很大的西苑，又先後動用百餘萬民工興修通濟渠，這條渠道自西苑引谷、洛水東達於黃河，又自板渚引黃河水經滎〔xing形〕澤入汴，又引汴東南達於淮，再通過邗溝達於他所興建的江都宮，然後入江達海。這條河是為他巡幸南方所用，稱為御河，渠旁築有御道，沿途植柳，並置離宮40餘所。這條運道的開鑿曾「發河南、淮北諸郡民，前後百餘萬」(《通鑒·隋紀》)，是隋代大運河中最為重要的一段。
永濟渠興修於大業四年(公元608年)。當時發動河北男女100多萬，渠道是引沁水南達於黃河，使船舶由黃河溯沁水而上，連接淇河、衛河等天然河道及一部分新開河道，通過今河北平原，北到涿郡(今北京)，全長2000多里。永濟渠唐代以後逐漸湮廢，元代縱貫南北的大運河代之而起，其中仍有部分河段利用其舊道。
江南運河是隋代所修的最後運道，自京口(今鎮江市)至餘杭(今杭州市)800餘里。大業六年(公元610年)到大業十二年(公元616年)還建宮苑於毗〔pi皮〕陵(今常州市)，壯麗比於東都西苑。江南處於水網地區，《史記·河渠書》說：「於吳則通渠三江五湖。」可能是隋時加以整頓連貫而成為一條江南運河的，這條河道目前是京杭大運河的一段，特別是常州至杭州一段，仍是兩省間重要的客貨水運航道。