儘管僧格林沁對太平軍的棄城突圍已有一定準備，但幾乎毫無徵兆的突然棄城，太平軍還是殺了清軍一個措手不及，包括僧格林沁都沒有想到太平軍會這麼快就做出這麼重要的決定，倉促之間根本組織發起有效進攻，迎頭痛擊匆匆棄城的太平軍。
太平軍選擇的進兵路線也很巧妙，從東門出城後猛撲東昌府鄉勇營地，又分兵從北向南猛攻，驅逐著戰鬥力低下但數量龐大的東昌鄉勇南逃，給太平軍打免費先鋒，成功沖亂了匆匆出營攔截的清軍步兵大隊。繼而太平軍又沒走正南面的寬闊官道突圍，選擇了走小路逃向徒駭河，不架車也沒攜帶高唐城裡那幾門陳舊不堪的老炮，糧草輜重都是讓騾子毛驢背馱和士兵隨身攜帶，最大限度提高了機動性和靈活性，讓清軍追之極難。
還好，僧格林沁軍最大的優勢就是騎兵眾多，雖然戰鬥力太過強大到無法在野戰中衝垮太平軍的地步，僧格林沁卻十分理智的命令騎兵咬住太平軍尾巴，遲滯太平軍的逃跑速度，同時派快馬飛速北上與吳超越聯繫，要求吳超越趕緊南下助戰。
聽到了僧格林沁信使的戰情報告，吳超越當然是心中狂喜，但表面上卻不動聲色，還十分冷靜的告訴信使道：「回去告訴僧貝子，我馬上加快速度，一定會儘快和他會師！還有，切記一點，尤其要注意封堵長毛的東逃道路，你們的騎兵多機動力強，不怕長毛向南逃向西逃，但絕對不能讓長毛向東逃！」
「為什麼？」僧格林沁的信使莫名其妙了。
「蠢貨！」吳超越破口大罵，「虧你還是僧貝子的帳中衛士，連點地理都不懂？東面是泰沂山脈，泰山、沂山和蒙山三道山脈，方圓幾千里山高林密，地勢複雜，騎兵難以作戰，長毛往深山老林里一鑽，你去山林里和長毛捉迷藏還是我去？！」
挨了吳超越的罵，那信使心裡雖然有些不舒服，但還是老實唱諾，用心記住吳超越的叮囑，然後又快馬回去給僧格林沁報信。而吳超越遵約守信的命令吳軍練勇加速南下的同時，也在心裡嘀咕道：「上天入地廣西狼，李開芳，你最好懂點地理，往東逃，進了泰沂山區就有希望活命了。」
很可惜，底層農民出身的李開芳最大的劣勢就是文化程度太低，雖然聰明過人擅長學習，但基礎太差壓根就不知道東面就有一處幅員遼闊的山林地區，逃進了那裡不但保命希望大增，甚至還有在山區東山再起的希望。所以太平軍一個勁的只是南下撤退，也始終無法擺脫清軍騎兵的糾纏牽制，同時南面的滿清地方官員在收到告警後，也拚命的組織兵勇沿途阻擊，幫助僧格林沁堵截太平軍南逃道路，結果也多多少少起到了一點效果——起碼逼得太平軍花時間作戰殺潰他們。
但吳超越也有一點失算之處，那就是太平軍李開芳部的騎兵數量也相當不少，騎兵佔到了一半都還多，同時還有許多毛驢騾子可以運糧騎乘，所以太平軍的撤退速度也相當之快，基本上達到了日行七十里以上，所以等吳超越率領除炮營外的吳軍練勇追上太平軍後隊時，太平軍都已經逃到了泰安府的東阿縣境內。
在東阿縣正南的柿子園，吳超越和太平軍的後軍幹了一仗，也再一次打敗了太平軍，迫使率軍殿後的謝金山奪路而逃，清軍騎兵乘勢追擊，奪得許多驢騾輜重。而謝金山帶著殿後的騎兵追上了李開芳率領的主力後，太平軍的主力卻又偏巧正在架設浮橋準備渡過大清河，向南面的彭家集進兵，正處於最危急的時刻。
大清河一帶的地形複雜得令人眼花繚亂，大清河的主流和支流都在彭家集以東匯入肥河，太平軍要想繼續南下必須得先後越過水量頗大的大清河主流和較小的支流，再渡過水量更大的肥水才能進入適合騎兵行軍的開闊地帶，是吳軍步兵活動的天堂，也是太平軍騎兵的地獄。
為了走完漫長的逃生道路，太平軍當然不能拋棄戰馬和驢騾，可怕的超越小妖又在腳步不停的向這邊殺來，太平軍實際上就只剩下了一個選擇——留下一隊步兵，在大清河主流的南岸設防，攔截吳軍追兵和清軍主力，但是這麼一來，這隊步兵註定將沒有任何的逃生希望。
李開芳當然不忍心這麼做，也張不開口點名要誰送死，但還好，幾個部將都明白李開芳的心思，也都站了出來主動請求擔任這一必死任務。其中李開芳麾下的頭號猛將黃懿端還態度最為堅決，大聲說道：「都別和我爭！也都別和我搶！說到帶步兵，你們誰及得上我？我馬戰不行，步戰最內行！我不留下，誰留下？！」
謝金山和譚有桂等同僚紛紛閉嘴後，李開芳也流下了眼淚，哽咽著命令黃懿端率領五百多步兵留守大清河防線，自領最後的千餘騎兵南下突圍。黃懿端毫不猶豫的抱拳領命，李開芳卻忍不住放聲大哭，與愛將黃懿端做了最後一次擁抱。
風雪中，太平軍騎兵匆匆向著南面去了，吳超越那面張牙舞爪的吳字大旗和數量龐大的清軍步兵則迅速出現了大清河北岸，此前一直在西面東平城裡龜縮不出的東平清軍也氣勢洶洶的向渡口殺來，僧格林沁則親率騎兵從東平城下的橋樑過河，向南發起追擊。
殘酷的大清河阻擊戰很快打響，憑藉著河流天險，五百餘名太平軍步兵迎頭痛擊追擊清軍，先後四次打退清軍進攻，吳超越那怕是出動吳軍練勇以火力覆蓋掩護，都沒能幫助清軍渡河成功，同時從西向東殺來的東平清軍也被視死如歸的太平軍將士輕鬆殺退。不得已，侍郎瑞麟只能是親自率軍從上游渡河，迂迴殺到太平軍側翼，這才逼迫黃懿端放棄陣地，撤往已經被清軍燒成一片廢墟的彭家集繼續作戰，憑藉一道殘破不堪的土圍子頑強抗擊清軍的瘋狂進攻。
行動緩慢的吳軍炮營還在後方沒有趕到戰場，疲憊不堪的吳軍練勇和清軍難以給負隅頑抗的太平軍以最後一擊。被迫無奈下，吳超越只能是趕緊找到瑞麟匆匆商議，決定暫時停止進攻，四面合圍彭家集，同時派人從東平調來那裡的城防火炮轟擊彭家集。結果也是到了火炮送到戰場時，東平縣令滿臉諂媚的親自把一座上好的年夜飯送到吳超越的面前時，吳超越才愕然發現，今天竟然已經是咸豐三年的除夕夜，也第一次在戰場上過了一次新年。
咸豐四年的正月初一，清軍再次向彭家集發起猛攻，但太平軍的頑強程度卻遠遠超過了吳超越和清軍將領的想像，才一夜時間，太平軍就在彭家集的土圍子牆下挖掘了大量的射擊孔，躲在牆下對外開槍，再次打退了清軍的多次進攻，吳軍練勇衝鋒時那怕是動用了手雷和擲彈筒，都沒能拿下彭家集。——當然，這也和吳超越故意的悄悄放水有關。
最後，還是到了正月初四時，吳軍炮營把重炮送抵前線，十門臼炮用拋物線把大量的苦味酸炮彈打進了彭家集，傷亡慘重的太平軍才放棄彭家集向南突圍，但因為河流攔道，清軍又已經在大清河支流的南岸嚴密布防，太平軍的突圍始終沒能取得成功。而眼見突圍無望，黃懿端乾脆帶著最後的幾十名太平軍將士向瑞麟的旗陣發起了自殺性衝鋒，還奇蹟般的殺到旗陣近處，嚇得瑞麟奪路而逃，旗陣幾乎被太平軍衝垮。
最後的衝鋒因為黃懿端身邊的士卒盡數戰死而宣告結束，在被清軍重重包圍後，身負重傷的黃懿端斷然拒絕了吳超越的親自出面招降，選擇撲向一名清軍士兵，緊咬住了他的咽喉和他同歸於盡，任由清軍士兵把他亂刀砍成碎片。
目睹這悲壯一幕，吳超越的眼中淚花閃爍，心裡說道：「永別了，勇士，你放心，你不會白白犧牲，你那些英勇的同伴，一定有機會逃出生天。」
終於全殲了太平軍黃懿端部，才在東平城外休整了一天，曾經的上司禮部侍郎瑞麟就催促吳超越趕緊率軍南下去給僧格林沁幫忙，知道自軍步兵已經很難再追得上太平軍騎兵，吳超越倒是毫不猶豫的一口答應，然而就在吳軍練勇準備出發時，勝保的加急軍令卻又突然送到了吳超越的面前——命令吳超越立即回師北上，攔截已經從連鎮突圍的太平軍吉文元部。
心裡偷偷笑著，臉上滿是驚訝的向勝保信使問起太平軍的突圍經過時，吳超越這才知道，原來吳軍練勇離開連鎮戰場後，懷疑這肯定又是吳超越詭計的吉文元倒是一直沒有突圍，咬著牙又堅持了好幾天，也多次打退勝保的猖狂進攻。最後到了臘月二十六那天，大概是確認了吳軍練勇果真離開了連鎮戰場，吉文元突然率軍發起突圍，從連鎮東南部成功殺出清軍包圍南下，勝保慌忙發起追擊，還妄圖採取吳超越之前提出的戰術，分兵穿插迂迴，層層設防攔截太平軍逃命道路，結果卻只有一次穿插成功，然後又馬上被太平軍沖潰防線，勝保無計可施，也好厚著臉皮又要吳超越回師北上，去幫他攔截太平軍。
聽完這些情況，瑞麟當然是破口大罵，天底下就沒見過這麼無能無恥的主帥，嫉賢妒能趕走作戰主力，貪功輕敵給敵人鹹魚翻身的機會，把事情搞砸了又要部下回去收拾爛攤子，厚顏無恥到了這個地步的人還真是不多見！而吳超越卻是裝模作樣的連連苦笑搖頭，然後又向瑞麟問道：「瑞大人，勝大帥要我回師北線，怎麼辦？」