山陽瀆即古邗溝，它南起邗城，北到山陽縣(今江蘇淮安)。邗溝初鑿於春秋末年吳國，當時出於戰爭的臨時需要，工程因陋就簡，水道曲折淺澀，只通小舟，不通大船。後來，人們對它進行多次改造。其中比較重要的一次，是東漢末廣陵(治所在今揚州市)太守陳登的改道，由樊梁湖往北，直至淮安入淮，改變過去繞道博芝、射陽兩湖的曲折線路。這一改變奠定了後來邗溝的基本格局。隋文帝從伐陳的需要出發，又對部分渠道作了調整，將入淮水口由淤淺了的末口改到山陽。不過當時由於軍事行動立即開始，來不及改造全渠。
隋煬帝為了提高山陽瀆的航運能力，與通濟渠配套，對這條古運河作了較為徹底的治理。在鑿通濟渠的同時，即大業元年(公元605年)，他又徵調淮南10餘萬人投入這一工程。當時除了按照通濟渠的標準，浚深加寬渠道，修築道路、離宮外，又穿鑿了新的入江渠口。由於長江沙洲的淤漲，原來山陽瀆的入江渠口堵塞嚴重。這次擴建，便將南段折而向西，開了幾十里的新渠，使其從揚子(江蘇儀征東南)入江。這就是隋唐時期著名長江渡口揚子津。山陽瀆經過這次改造後，全線暢通無阻，像龍舟那樣的龐然大物，也可進退自如了。
在建成通濟渠和山陽瀆後的第六年，隋煬帝又下令拓展江南河。
春秋末年，太湖流域已有運河。秦始皇建立了統一國家以後，為了加強對吳中地區的控制，也為了東巡會稽(治所在今江蘇蘇州市，轄地有今蘇南及浙江中北部)的需要，在春秋古運河的基礎上加以擴建，溝通了北起丹徒(治所在今江蘇省鎮江市東南丹徒鎮)，中經會稽郡治，南到錢塘(浙江杭州市)的水道。這應是後來江南河的雛形。據說丹徒的得名，就是因為當時有3000赭衣囚徒在此參加治河的緣故。丹徒、曲阿(治所在今江蘇丹陽市)位於太湖流域西北部，這裡的地勢比附近其他地方稍高，因而從此經過的這段運道，河床偏高，河水不足，行船不暢。為了解決這些問題，三國、東晉時期，曾一再在此施工，如吳國疏浚丹徒——曲阿間的河床，以改善這裡的航道；東晉於京口(鎮江市)築丁卯埭〔dai帶〕 ，以控制河水泄入長江等。
在上述基礎上，隋煬帝擴建了江南河。《資治通鑒·隋紀四》載：「大業六年冬十二月 ，敕穿江南河，自京口到餘杭(今浙江杭州市)，八百餘里，廣十餘丈，使可通龍舟，並置驛宮、草頓，欲東巡會稽。」這裡的會稽，當指今浙江省紹興市境內的會稽山，相傳大禹曾會諸侯於此，千古一帝的秦始皇也曾登此山「望於南海」(實指今東海)，好大喜功的隋煬帝，大概也要效法大禹、秦皇的故事。不過隋煬帝登會稽的目的並未達到，因為下令穿鑿不久，就被高麗戰爭和農民起義所困，再也無暇南渡長江了。但江南河的拓展，大大地推進了太湖流域航運的發展，也加強了與江、淮等地的聯繫。江南河至今仍是太湖流域的黃金水道。