五嶺指塞上嶺（大庾嶺）、騎田嶺（臘嶺）、都龐嶺（永明嶺）、甿渚嶺（白芒嶺）、越城嶺（臨源嶺）。嶺南地區位於五嶺之南，在先秦時期是「四荒」之「北向戶」區域。秦始皇統一六國後，為了顯示秦國的威力，在派蒙恬率兵戍守北境的同時，派尉屠睢率水軍攻嶺南地區的百越：「發卒五十萬，為五軍，一軍塞鐔城之領，一軍守九疑之塞，一軍處番禺之都，一軍守南野之界，一軍結餘干之水，三年不解甲弛弩。」可見這場戰爭打得很辛苦。秦軍不能迅速取勝的原因之一，是由於交通不便，運輸路線過長，補給困難。越人趁機襲擊，秦兵大敗。
在五嶺最西部的都龐嶺和越城嶺之間，有一條地勢平緩、溝通中原和嶺南之間的交通孔道，即湘桂走廊。湘水在此北去，灕水於此南流，兩處水源相距40公里。秦始皇於是派監祿鑿渠運糧，秦兵得以深入越地。監祿開通的運渠，因地在零陵郡境內，故名零渠。唐宋時亦稱「秦鑿渠」。後因工程靈巧，改稱靈渠。因修築於廣西興安縣境內，也稱興安運河。秦人在湘水源頭之一——海洋河上築壩、開渠，主要工程包括鏵嘴、大小天平、南渠、北渠等。鏵嘴是分水壩，在湘水支流海洋河中，狀似犁鏵，以石築成，角端所指與河水流向相對，把海洋河一分為二，一流入南渠，一流入北渠。大小天平是位於鏵嘴尾端用石築成的攔河壩，呈「人」字形堤，高度略低於河水堤岸。與河水東岸相近的一段稱大天平，同北渠渠口相銜。與河水西岸相近的一段稱小天平，同南渠渠口相銜。天平作用是提高湘江水位，攔河蓄水。枯水季節，大小天平攔截全部河水入渠，使湘江水位提高約4米，使之注入灕水，以便水運。洪水季節，洪峰漫過天平壩頂，流入海洋河故道，減煞水勢，從而使渠內流水，漲而不溢，枯而不竭，經常保持安全流量。南渠全長約34多公里，是靈渠的主渠，其中4.5公里為人工劈山而成，最為險要，其餘利用原有河道。北渠長3公里多，是靈渠的配套工程，作用是使湘水（或灕水）中的船舶能順利轉入灕水（或湘水）。南渠、北渠流量為三比七，故有「湘七漓三」之說。
漢代以後對這條運河多有疏浚改建，並增添了新的工程。唐寶曆年間（825～826年），李渤主持修渠時創建陡門十八處，多建於渠道淺狹、水流湍急處。經過陡門攔阻，水位提高，流勢平緩，便利行船，其作用有如後世的船閘。刺史魚孟威又改建為石堤，千斛大船也可通行。靈渠「置斗門三十六，舟入一斗，則復閘一斗，使水積漸進，故能循崖而上，建瓴而下」，故宋人有「治水巧妙，無如靈渠者」之譽。直至1937年湘桂鐵路通車，靈渠的水運才停止，但仍有灌溉、生活和工業用水之利。