李建成和李二兄弟主動放棄大興北走，雖然是被迫，卻也是相當正確的決定，最起碼是保住了一部分軍隊，讓他們在北上途中多少還有一些還手之力和補充糧草的力量，北走期間先後把華原、同官和內部三縣的糧庫洗劫一空，獲得了路途所需的糧食，帶不走的也打著義師旗號全部散發給了三縣百姓，讓隨後追擊的隋軍屈突通部反倒飽受缺糧之苦，嚴重影響了追擊速度。
李靖在扶風郡大破薛仁果的時候，急匆匆如驚弓之鳥的李家兄弟也帶著殘兵敗將一路撤退到了壺口，對李家叛軍來說還好，黃河對面的現任文城太守鄭曾是前任太守鄭元壽的兒子，鄭元壽已經被陳喪良用火炮轟死，鄭曾和陳喪良也算是有殺父之仇，同時鄭曾還是李建成正妻鄭觀音的堂兄，與李建成有親戚關係且關係素來良好，毫不猶豫的組織了文城叛軍接應李家兄弟過河，顛沛流離多日的李家兄弟這才有了一個比較安全的落腳地，也憑藉著黃河天險，暫時攔住了屈突通的追兵。
大興城裡的十萬叛軍，最終能夠跟著李家兄弟逃過黃河的還不到兩萬人，且近半是傷兵，能留下這麼多殘兵敗將，還是因為李淵叛軍以晉中士兵居多的緣故，晉中級士兵為了返回家鄉不肯脫隊，堅持跟在李家兄弟身邊，不然的話，能有幾千人保著李家兄弟過河，李建成和李二就該高唱阿彌陀佛了。
叛軍文武官員也損失慘重，劉文靜、鄭元壽、王長諧、竇琮、李孝恭、李孝常、馬元規和許世緒等數十名文武官員，不是死在了大興戰場，就是倒在了逃亡路上，老李家在太原起兵時的得力幹將折損大半。倒是陳喪良根本看不上的朱粲，十分幸運的跟著裴寂一路敗逃到了文城，還因為陳喪良絕不可能原諒他的緣故，獲得了李家兄弟的寬恕諒解，重新在李家叛軍中擔任了帶兵將領——不管怎麼說，朱粲也確實是一個帶兵能打的將才。
因為柴紹是首先出賣了大興宮城，停放在宮城內的李淵屍體李家兄弟沒能帶回來，雖說很清楚以陳喪良的虛偽性格故意侮辱李淵屍體自毀聲名的可能不大，但借著這個由頭，住進了文城郡治吉昌城後，李建成和李二兄弟還是為此痛哭流涕了一番，傷心自責不孝沒能保全父親遺體，實際上卻是慶幸自己兄弟的死裡逃生，僥倖保命。餘下的叛軍將士也是無不放聲大哭，慶幸自己能夠活著回到河東家鄉。
越老越軟弱的屈突通給了李家兄弟喘息機會，本來在隆冬之際黃河封凍，就算沒有渡船也可以在冰厚處踏冰過河，但是發起一次強攻被文城叛軍這支生力軍擊退後，顧慮軍隊疲憊少糧的屈突通竟然主動停止了進攻，改為讓軍隊休整休息和收集糧草。筋疲力盡的李淵叛軍這才得以在文城放心休整，恢複力量和重新聚攏零散敗兵，同時還造成了一個意外情況——李密、翟讓聯軍攻破虎牢關和洛口倉的消息突然傳到文城郡，原本打算盡數撤回太原老巢的李淵叛軍看到反攻曙光，生出了調整戰略的心思。
但反攻的希望也十分渺茫，即便加上文城叛軍，李家兄弟手裡也只有區區兩萬多士氣低落的敗軍之師，能夠守住黃河天險都已經難度不小，就算陳喪良率領東都隋軍回軍去救洛陽，李家兄弟能夠重新打回大興的希望也小得可憐，所以不管是李建成還是裴寂，也都是只稍微盤算了一下，就放棄了這個念頭。
只有李二不肯錯過這個渺茫希望，經過了一番深思熟慮後，李二私下裡找來了李神通、段志玄和唐憲等親近文武，與他們商量留駐晉南河東的計畫，想要向李建成和裴寂自告奮勇率領一軍留在山西南部，抵禦隋軍對太原發起的反擊，也等待機會反攻大興。
李二的計畫讓李神通等人大吃一驚，與李二關係最好的族叔李神通還失聲驚叫道：「二郎，你瘋了？陳應良狗賊拿下了大興，很可能親自率軍向我們發起進攻，屈突通更是就在黃河對岸，隨時都有可能過河殺來，你主動請求率軍留在晉南河東，不是找死是什麼？」
「我當然沒瘋，我是經過仔細考慮的。」李二搖了搖頭，沉聲說道：「我覺得陳應良狗賊親自率軍向晉南發起進攻的可能很小，他現在正面有薛舉和白瑜婆這些賊寇的直接危險，背後有李密和翟讓虎視耽耽，更遠處還有李軌和西突厥有可能乘機殺進關中，他在短時間內親自率軍向晉南進兵的可能幾乎沒有。所以我們只要打敗了屈突通，就有希望在晉南站穩腳步，等到反攻關中的機會出現。」
搖頭說罷，李二又豎起了三個指頭，繼續說道：「而且我還認為，我留在晉南還有三個有利之處，第一就是保持與李密、翟讓的聯絡暢通，乘機通過各種手段獲得他們的直接幫助，利用他們手裡的兵馬糧草替我們削弱敵人。」
「另外兩個有利之處呢？」李二的心腹戰將段志玄趕緊問道。
「第二個有利之處就是避免我和兄長之間的衝突矛盾。」李二說道：「父親亡故後，我和兄長共同執掌兵權，這樣的情況時間短了還好說，時間一長就必然會矛盾激化，衝突擴大，與其將來出現這樣的局面便宜外敵，還不如早些分道揚鑣，各自執掌一軍，避免爭權奪利，也避免骨肉相殘，兩敗俱傷。」
段志玄和唐憲一起點頭，都覺得李二這話頗有道理，李神通則壓低了聲音說道：「二郎，你這話當然有道理，但你也別犯傻留在晉南啊？你父親在太原經營多年，根基穩固，糧草豐足，勝過晉南十倍，這樣的好地方，你就捨得拱手讓給你的兄長？裴寂實際上是向著你的，你回到太原獨掌兵權，並非沒有希望。」
「這也是我要說的第三個有利之處。」李二低聲說道：「我也知道太原是個好地方，但北面的劉武周和西面的梁師都，全都對太原虎視耽耽，聞得我軍兵敗，他們必然會生出趁火打劫的心思，我軍撤回太原後，首先就得面對他們的直接威脅，實際上和我留在晉南是一個樣，我在晉南掌握向南進攻的主動優勢，既可以名正言順的向兄長要糧要武器，又可以讓兄長替我守住北方，豈不是要勝過我和他同時回到太原去爭權奪利，被動挨打？」
聽李二這麼一說，李神通這才發現情況確實如此，李二自告奮勇留在晉南，戰略上確實好處多多，李建成為了能讓李二替他抵擋隋軍反攻，肯定不會吝嗇糧草武器對李二的支持，同時晉南諸郡此前大部分都是和平解放，被戰火波及不大，人口底子還在，只要有糧有武器，想要重新拉起軍隊並不難。想明白這些，李神通這才點了點頭，說道：「二郎你如果決意要留在晉南，那我不勉強你，也可以陪你留下，了不起就是守不住晉南，再撤回太原也不遲。」
李二大喜道喜，然後又說道：「一定守得住，父親當初帶著十幾萬兵馬進關中，其中大部分都是晉南士兵，他們不可能被官軍全部消滅，很大部分肯定只是被打散了，要不了多少時間就會陸續返回家鄉，我們只要把這些游兵散勇重新招攬回來，兵力很快就會重新勝過屈突通，地利又在我們的手裡，打跑屈突通不難。」
見李二如此自信，段志玄和唐憲抱著就算守不住也照樣可以逃回太原的心思，全都表態願意陪著李二留下，李二更是大喜，好言安慰了他們一通後，馬上就跑去找到李建成和裴寂，要求率領一軍留駐晉南，抵擋隋軍反攻。
聽了李二的要求，暗地裡向著李二的裴寂當然是大吃一驚，趕緊暗示李二不要犯傻，可惜李二卻佯做不知。而李建成卻是大喜過望，假惺惺的勸說了李二幾句後，便欣然接受了李二的請求，然後不僅決定把大部分兵馬留給李二，還答應回到太原後馬上就給李二送來糧草軍械，幫助李二長期駐紮和重建軍隊。李二不顧裴寂的暗示反對，滿面笑容的謝了兄長。
事後，裴寂自然少不得埋怨了李二的傻帽一通，李二也只能是把自己的打算再次對裴寂嘮叨一遍，好不容易才讓裴寂接受自己的觀點，再然後李二又向裴寂提出懇求道：「叔父，你和兄長回到了太原後，還請你在兄長面前多多美言，讓他千萬要遵守承諾，早日給我送來糧草武器。還有，我四弟李元吉那裡，也請你多多照看，讓他繼續統率軍隊，絕不能讓我兄長把他手裡的兵權收走。」
「糧草軍械的事你放心，你兄長性格還算厚道，食言反悔這樣的事，他應該做不出來。」裴寂隨口回答，又疑惑問道：「不過，你四弟又是怎麼回事？你為什麼要讓他繼續統率軍隊？」
「小侄是為了叔父你的安全做想。」李二微笑說道：「之前在大興時，叔父你暗中向著小侄，這點兄長早就心知肚明，叔父你隨著他回到太原，只怕他會生出報復心思。我四弟李元吉奉父親之命留守太原，掌握太原軍隊，兄長回去和要收繳兵權，四弟心中肯定會有不滿，叔父你只要再站在四弟一邊，助他掌握部分兵馬，豈不是身在太原也可以穩如泰山？」
呆了一呆後，裴寂象是不認識一樣的上下了李二一通，然後才拱手說道：「二公子高明，下官佩服。」
於是乎，在皆大歡喜的情況下，十一月十一這天，李建成和裴寂帶著三千軍隊先行返回太原去了，留下自告奮勇的李二率軍留駐文城，輔之以李神通、段志玄、唐