中伏不僅讓林鳳祥受到打擊，也斷絕了他待援的最後一點希望。不久，連黑豆都沒得吃了。林鳳祥下令殺騾馬，騾馬有限，殺完了開始煮皮箱刀鞘，帶皮的也煮完了，又從地上挖掘馬齒莧、當歸這些野菜為食，還有人則剝開榆樹，取皮研末，做成麵條。等到連這些東西都吃得差不多的時候，甚至俘獲的官兵和逃兵也被殺掉，取人肉以食，盡顯戰場上最黑暗和悲慘的一面。
漫無邊際的逃亡開始了。經過這次逃亡，太平軍的兵力變得嚴重不足，只剩下兩千多名死也不投降的廣西老兵。考慮到兼顧兩鎮也變成了不可能，林鳳祥遂放棄西連鎮，率部進入了東連鎮。
在此之前，僧格林沁曾經開壕築堤，為的是蓄積雨水。等到堤壩建成，蓄水已達到房頂那麼高，這時便掘堤放水，對太平軍陣地進行圍灌，之後又用大炮進行連續轟擊。
看到太平軍陣營出現混亂，僧格林沁才正式發起總攻。林鳳祥往來督戰，身受兩處槍傷，他身邊的兩千勇者或戰死沙場，或投水自殺，再沒有一個肯屈膝投降。
1855年3月7日，東連鎮被僧格林沁所攻破，林鳳祥也在躲藏的地窖內被俘。儘管地窖內還儲有可供他一月食用的糧食，可這已經無濟於事了。
兩天後，也就是3月9日，咸豐收到了僧格林沁從前線發來的捷報。這段時間正是曾國藩在九江和湖口遭遇大敗，石達開發起全面反攻的時候，咸豐太需要一個戰場上的好消息來沖沖喜了。儘管僧格林沁拖了這麼長時間才解決問題，但畢竟是解決了，而且僧格林沁身為皇親國戚，統率的是八旗官軍，不同於曾國藩的湘軍。換句話說，僧格林沁才是純粹的家裡人，他贏了，就是在給皇家長臉。
咸豐加封僧格林沁為博多勒噶台親王。在清代，一般只有皇帝的兒子才能被封為親王，僧格林沁以一個蒙古郡王，皇帝的表兄（還不是正宗的）就被封親王，這在當時非常少見。自此以後，僧格林沁的故鄉科爾沁左翼後旗就被稱為「博多勒噶台親王旗」，簡稱「博王旗」，這一稱謂一直沿襲至今。
僧格林沁的同伴就沒這麼好運了。勝保還未到山東之前，天京發來的援兵已被沿路消耗得差不多了，再給他傾力一攻，連山東都立不住腳，只剩得一千餘人拚死突圍後南返回京。
援兵余部剛走，李開芳來了。李開芳此行本為接應援軍，但由於消息滯後，等他到的時候，北援早已失敗，他自己也被勝保包圍於高唐。不過隨後遭到霉運的不是李開芳，而是勝保。由於勝保在損兵折將的情況下，仍遲遲無法攻破高唐，咸豐下令將其逮京問責，攻克高唐的任務也同時移交給僧格林沁。
高唐州是《水滸傳》中梁山好漢救柴進的地方，似乎天生對造反者有利，對官軍不利。到了高唐之後，僧格林沁發現，不是勝保無能，實在是高唐州太難攻了。
高唐以前是存儲軍火之處，當地盛產製造火藥所必需的硝石、硫黃，糧草也很充裕，要打仗，李開芳幾乎沒一樣缺的。他從連鎮出發時雖只帶了六百輕騎兵，但這六百餘人「皆百戰精銳」，都是打仗打出來的能戰之士。
在此基礎上，李開芳在城外挖掘三道深壕，三壕相通，壕內藏有太平軍。官軍從壕上穿過，不是被長矛挑個對穿過，就是被鳥槍打死，加上城內能夠居高臨下，以明擊暗，所以每次官軍都要碰得頭破血流，傷亡十餘人算是少的，多的時候一次就要損失百餘人。
勝保攻城時，十八般武藝全都使上了，參加攻城的騎兵有滿洲騎兵、蒙古騎兵，步兵更是五花八門，除了北方官軍外，還包括南方來的川勇，可是無一例外地都遭到敗績。
如果僧格林沁也像勝保一樣採取大兵強攻的辦法，顯然效果不會好到哪裡去。
高唐很難攻，那麼換個地方呢？僧格林沁將勝保的四面包圍改為網開一面——網開一面不是說都不對，關鍵是看時機和成效。
在主動閃出空當的同時，他像在連鎮時一樣加緊圍城，能斷的糧道全部斷掉。勝保在時，太平軍有時晚上還能到城外村莊里去征糧，隨著僧格林沁越圍越緊，連這種機會也沒有了。
眼見得城中糧草不斷地少下去，李開芳心裡打起了鼓。這時他又得知了連鎮太平軍覆滅的消息，越發感到高唐非久留之所，於是開始計畫突圍。
1855年3月17日，李開芳扔掉所有馬匹輜重，帶著餘下的三百人趁夜步行突圍。僧格林沁那鷹隼般的眼睛始終緊盯著太平軍突圍的方向，如果他願意，完全可以將李開芳擋住，把太平軍重新堵回高唐州，但這並不是他想要的。
他想要的，恰恰是李開芳正在做的。在北伐以來的所有突圍中，高唐州突圍可以說是太平軍最為失算的一次軍事行動，它為李開芳最終的失敗埋下了伏筆。