長江防線一擊即破，這完全在劉伯承的意料之中，但蔣軍逃跑之快，超出了原來的預想。他判斷：戰局急轉直下，但敵人仍有繼續組織頑抗的可能。敵軍成建制地向南逃奔，很可能想利用錢塘江、滬杭公路和浙贛路，以皖浙山區為依託，構成新的防線。目前京滬鐵路、京杭公路已被三野切斷，浙贛鐵路和徽杭公路就成了敵人退卻的唯一通道。想到這裡，劉伯承叫作戰參謀給總前委發報。他邊沉思邊說：
「根據敵人在江防被突破演變為混亂的趨勢，黃山、鄱陽間的交通、糧食狀況和我軍渡江後的態勢，可決定不以主力與三野成交叉運動去南京地區，而以全力直出貴溪、上饒、歙縣，以指向浙贛路進賢至義烏之線。這樣，既可以割斷蔣桂兩敵之聯繫，又可放鬆桂敵而以全力迂迴蔣敵之側背。」
鄧小平、陳毅立即複電表示同意。於是，劉伯承命令陳賡4兵團取消原定接管南京的任務，改沿5兵團右側出上饒東西地區，協同第3、第5兵團殲滅浙贛線上的敵人，並視情況向東發展，擴大預定的京滬杭戰役的範圍。第3、第5兵團仍向原定目標向歙縣、衢縣追擊，協同三野鉗擊京滬杭地區之敵。
二野第3、4、5三個兵團分成三個方向，分別以徽州、上饒、貴溪為目標，展開了一次跨越500多公里的大追擊。
3個兵團齊出浙贛線。陳錫聯、謝富治率第3兵團的第10、11、12三個軍為左路，直指金華、龍游。
楊勇、蘇振華指揮第5兵團第16、17、18三個軍為中路，直指衢縣、江山。
陳賡率第4兵團第13、14、15三個軍為右路，直指橫峰、貴溪。
3個兵團像三股決堤的江水，一瀉千里，幾天里流遍皖南，又在不到半個月的時間內，把使人民獲得新生的甘泉，灌溉到江西東北和浙江的大部土地。
第3兵團副司令員兼第12軍軍長王近山，指揮突擊隊在長江南岸登陸後，敵人全線潰退，狼狽逃竄。王近山是一員虎將，他眼見渡江沒有打上硬仗，心裡覺得直痒痒，便命令35師師長李德生：「追！一定要給我追上劉汝明的主力部隊。」
李德生接令後，兩天率軍追了100多公里。一路上只遇敵人一些零散的抵抗，仍然沒有抓住敵人的主力。
4月25日，王近山命令李德生的35師向徽州急進，乘敵立足未穩，一舉將其殲滅。王近山說：「今後的追擊作戰，應該發揚高度的勇敢頑強精神，要大膽地迂迴、分割、包圍、殲滅；要敢於單獨帶部隊作戰，及時果斷地處理情況。對潰逃的敵人要不顧疲勞、不怕困難地追。20天、1個月不休息地追。窮追，猛追，追到底，直到全部殲滅這股敵人。」
李德生師長和政委李如海一起對情況進行了研究，判斷徽州城裡肯定有敵人的主力，這是一塊「肥肉」，一定要「吃」掉它。可是當時部隊還在太平鎮，離徽州有80公里，沿公路去徽州需兩天的時間。如果兩天後才能趕到那裡，敵人也許又逃跑了。
李德生在地圖上發現太平東邊的群山中，有一條通往徽州的小路，比公路要近35公里。35公里可以縮短一天的路程。不過走這條路要翻一座上下20公里的大山。部隊幾天連續行軍作戰，已經很疲勞。但是為了能夠抓住敵人，李德生最終決定抄近道走。
清晨，部隊出發了，很快來到大山下。戰士們沿著崎嶇蜿蜒的小山路，一個緊跟一個往上爬，前不見頭，後不見尾，誰要是稍微停一下，立刻就給後面的趕了過去。行軍沿途，搞宣傳工作的同志貼上？很多標語，他們還在山頂上扎了一個紅紅綠綠的大彩棚，掛上了毛主席、朱總司令的像，寫著「把勝利旗幟插到江南」的鼓動口號。戰士們也邊走邊拉號子：「加油追呀！爬過山去吃『肥肉』！」
20公里路的大山，大半天的功夫就翻過去了，先頭部隊當夜就趕到了離徽州城僅15餘公里的地方。
這時，李德生接到王近山的電報，命令他迅速截斷徽（州）杭（州）公路，包圍徽州，不讓敵人逃竄。李德生立即命令擔任後衛的104團迂迴35公里，插到徽州東面，切斷徽杭公路。
李德生這一決心非常大膽。104團的穿插迂迴完全是孤軍深入，單獨作？，既可能順利地抓住敵人，阻止敵人逃跑，也可能陷入敵人的包圍，惡戰一場。李德生指示團長張鐮斧：「抓住了敵人就不讓它逃跑。萬一情況緊急，一定要堅持，我們很快就會趕來！」
張鐮斧走後，剩下的103團沒有立即攻擊徽州的敵人。8小時後，李德生估計104團已經切斷了徽杭公路，才開始率領103團行動。部隊冒雨前進，很快接近了徽州城。
城裡的敵人將主要防禦方向設在正北。而西南比較空虛。這裡有一條小河，繞城向南流去，敵人以此作為天然的防禦屏障。李德生命令部隊從這裡涉水過河。戰士們毫不猶豫，迅速捲起褲管下到河裡。
在煙雨蒙蒙中，城上的敵人看見了這支部隊一槍不發地過河，根本沒有想到是解放軍。直到接近了城邊，戰士們的槍響了，敵人才著了慌，胡亂地打槍還擊。城角上防守的敵人，在解放軍突然打擊下，很快就潰散了。城內的敵人一見解放軍打了進來，頓時一團混亂，爭先恐後地往城外逃命。一股往東北面山上跑，一股沿徽杭公路東竄。
張鐮斧的104團，在快要迂迴到徽杭公路時，前哨突然發現東邊公路上黑壓壓的一大批敵人正朝徽州方向走。104團的任務是截住從徽州往杭州方向東逃的敵人，現在卻有一大股敵人從杭州方向往徽州來，怎麼辦？情況很突然，請示已經來不及了，張鐮斧果斷地定下決心：「管它哪裡來的，吃了再說！」
張團長迅速命令前面的部隊，來一個猛襲，被嚇得暈頭轉向的敵人頓時混亂了。不到1個時就結束了戰鬥，捉了1，200多俘虜。原來，這股敵人是從杭州方向潰逃下來的敵暫2師，少將師長也在其中，當了俘虜。
戰鬥剛結束，從徽州方向開來一輛吉普車，戰士們迅速將其捕獲。經審訊得知，他是來通知暫2師，叫他們趕快南逃，不要到徽州去，因為「共軍已臨城下」。
張鐮斧詼諧地對敵軍官說：「現在不用南下了，還是到徽州去和106軍見面吧！」
104團解決了暫2師後，即按原計畫沿公路向徽州進發。這時張團長也收到了師長李德生的電報，知道徽州城裡的敵人正迎著他們逃跑過來。
果然，不一會兒前面就發現潰逃的敵人。敵人在公路上前擁後擠，亂七八糟，他們做夢也沒有想到他們前面，有一支解放軍正在等著。解放軍根本不用開槍，只需一聲大喝，就嚇得敵人破了膽，投降一大群。
前面的敵人當了俘虜，後面見勢不對就往回跑。這時103團也趕了上來，幾千名敵人只好放下武器。
中間的敵人正往城東的大山上爬，解放軍趕上去，和敵人「比賽」爬山。敵人從西邊往上爬，解放軍從東邊往上爬。敵人到了山腰，解放軍也到了山腰。跑在前面的解放軍戰士腦子一動，全部丟下背包。一輕裝，終於捷足先登，早一步到了山頂。
戰士們坐在山上也不打槍，看著敵人。敵人也不敢往上爬，蹲在半山腰不敢亂動。天快黑了，滿山都是潰逃的敵人。山腳下的解放軍又從下面包圍過來。等到第二天天一亮，解放軍朝著敵人多的地方轟上幾炮，馬上就有幾個軍官搖著白旗一歪一瘸地走了出來。十幾分鐘後，敵人的團長帶著整整一個團，扛著槍，背著炮，下山投降了。
5月1日夜，35師繼續向南追擊敵73軍。在威坪東面的山上，他們追上了逃敵。敵人原以為解放軍會沿著大路走，一時還趕不上來，於是在山上擺開炊事鍋，燒水、淘米、洗菜，忙個不停，想吃上一頓熱飯。沒想到這一耽擱，解放軍突然從背後插了過來。
驚魂未定的敵人拔腳就逃，開水還在鍋里燒著，飯也不吃了，菜也不要了，衣服、行李丟得滿山都是。
慌亂的敵人丟下一個團「斷後」。這時，解放軍一個加強連乘船沿新安江順流直下，剛好趕到。他們一路上早有準備，沒有戴軍帽，光著腦袋。敵人分辨不清，還大聲發問：「你們是哪部分的？」
船上的人回答：「85軍的，不要打，誤會了殺你的頭！」
對方見來者氣勢洶洶，也真不敢打槍。解放軍很快將船靠上岸，一下船就將刺刀對準敵人的哨兵，大聲喝道：「繳槍不殺！我們是解放軍。」
敵副團長在遠處見此情景，叫喊著：「不要誤會！別打槍。」
解放軍隊伍里走出一個前兩天剛解放過來的新戰士，對敵副團長說：「誤會不了，你過來吧！我認得你。」
消滅了敵人留下掩護的一個團，103團和104團沒有喘息片刻，急速地向南追去，一兩個小時後，來到距淳安縣十來公里的一座大山。這座山山勢十分險要，公路在半山腰盤旋，又窄又陡。山下是新安江大河灘，敵人在此留下的一個連，幾下就被解