開鑿大運河有十足的必要，問題是，具體怎麼開鑿？隋唐大運河北起涿郡，南到餘杭，溝通海河、黃河、淮河、長江、錢塘江五大水系，在中國的大地上跨了十多個緯度，全長四千多里。這麼大規模的工程，規劃必須先行做好。
隋煬帝做出的規劃，有三點至關重要。
第一，分段開挖。
第二，盡量利用原有水道。
第三，以洛陽為中心，向東南和東北兩個方向延伸。
先看第一個特點，分段開挖。大運河溝通五大水系，這五大水系是由四條運河溝通在一起的。溝通海河與黃河的叫永濟渠，溝通黃河與淮河的叫通濟渠，溝通淮河與長江的叫邗溝，溝通長江和錢塘江的叫江南河。這四段運河，大致分了三次開挖。
首先是大業元年（605）三月，開鑿通濟渠和邗溝。為什麼這兩段最先開鑿？很簡單，為了隋煬帝下揚州。揚州在長江的北岸。隋煬帝從洛陽到揚州，要先從黃河流域進入淮河流域，再從淮河流域進入長江流域。這樣一來，溝通黃河與淮河的通濟渠，還有溝通淮河與長江的邗溝自然要率先開工。
其次是大業四年（608）開鑿永濟渠。永濟渠溝通海河和黃河，一直可以走到北方的涿郡，也就是今天的北京城。為什麼在大業四年開鑿永濟渠？為了打高句麗。大業三年（607），隋煬帝北巡草原，就在突厥啟民可汗的牙帳里，看見了高句麗的使者，同時也就產生了征服高句麗的念頭。涿郡自古就是東北地區的軍事重鎮，把這裡作為征東大軍的後方基地再合適不過了，既然如此，就要迅速開挖這段運河，把洛陽和涿郡連接起來，以便日後運兵、運糧。
最後開挖的是江南河，這是在大業六年（610）開始動工的。當時，隋朝勢力達到鼎盛，隋煬帝北巡西狩的工作都已經完成，大規模的戰爭還沒有開始，算是難得的輕鬆時光。在這種情況下，美麗富饒的長江三角洲進入了隋煬帝的視野，無論是從眼前的巡遊覽勝，還是從長遠的經濟溝通考慮，把三吳地區包含進全國水道網中都是非常合理的想法。
就這樣，前後經過六年的時間，分三次努力，四段運河相繼完工。這一規劃的輕重緩急非常分明。
再看第二個特點，利用舊有水道。雖然溝通南北的大運河是隋煬帝的創舉，但是，在局部地區開挖運河的傳統卻是古已有之。比如春秋末年，吳王夫差為了北上爭霸，開鑿了連接江淮的邗溝，這其實就是隋朝大運河邗溝段的基礎。另外，還是春秋末年，魏國強大，為擴張需要，又開挖了連接黃、淮的鴻溝，這其實是大運河通濟渠的基礎。這些水道斷斷續續，年久失修，但是，有基礎總比沒基礎強。隋煬帝就是在這些舊運河的基礎上，裁彎取直，疏浚引流，才形成了全長四千多里的大運河。
如前所述，整個大運河系統一共用了六年的時間完工，但是，這六年可不是天天在挖溝。其中，通濟渠和邗溝有明確的時間記載，一共用了五個月的時間完工，其他兩段運河永濟渠和江南河沒有具體記載，但是，可以想像，每一段用的時間應該相差不太大。
為什麼不連續挖掘呢？因為挖河和其他工程不一樣，必須在枯水期開挖。這樣一來，每年能用的時間就有限了，大略估算一下，幾段運河開鑿的時間加在一起，恐怕也不會超過一年半的時間。
這麼長的水道，怎麼能在這麼短的時間內完工？其中一個很重要的原因就是儘可能地利用舊有河道。這樣規劃，也算充分考慮了省時、省力、省錢的節約原則。
再看第三個特點，以洛陽為中心，向東北、東南伸展。為什麼要特彆強調這個特點？因為洛陽是隋煬帝考慮全部問題的中心。隋朝立國的基礎本來是以大興城為中心的關中地區，但是，關中偏在西北，不利於對全國的控制。隋煬帝即位後，開始有意識地把國家重心向東部遷移。
最合理的遷移地點就是東都洛陽。洛陽位置居中，向西可以通過隋文帝開鑿的廣通渠連接大興城，向東可以輻射整個東部地區。而大運河，正是以洛陽為結點的一個「人」字形水道。洛陽以北的永濟渠是「人」字的一撇，叫北運河；往南的通濟渠、邗溝和江南河是「人」字的一捺，叫南運河。形象一點說，東都洛陽就好比是一個人的心臟，而一撇一捺，既可以比作兩條胳膊，又可以比作兩條血管。如果是兩條胳膊，那就讓它緊緊地擁抱整個東部地區。如果是兩條血管，那麼，東、西、南三部分的血脈就靠它聯通起來了。
其實，這個特點也正是隋朝運河和元朝以後京杭運河的主要區別。京杭運河不是北起北京，南到杭州嗎？和隋唐運河的起點和終點都一樣，往往有人把這兩條運河混為一談。
但事實上，這兩條運河可大不相同。它們最大的區別在於中心點不同。京杭運河以北京為中心，所以，它基本是一條直的水道，從北京直達杭州。而隋朝大運河則是以洛陽為中心，洛陽遠比北京靠西，所以，整個運河就不是一條直線了，而是走了一個「人」字形。走一條直線，那是溝通南、北，走一個「人」字形呢？那可是溝通東、西、南三方了。
從這兩條運河的不同走向，可以大致看出中國歷史的發展變化。隋唐時代，中國還是東、西、南三部分相對平衡地發展，各有優勢；而到了元明清，則是東邊的權重遠遠高於西邊了。