撕破臉皮正式扯旗造反後的李淵一家運氣好得十分驚人，李淵叛軍的主力還沒來得及南下的時候，大興隋軍向北進攻，整個七月都是陰雨連綿，不利攻堅，導致六萬隋軍局促在賈胡堡這座小小要塞之外，寸步難進，還白白消耗了無數體力糧草；到了大興隋軍兵敗退守霍邑、李淵叛軍兵臨城下的時候，隋軍還沒來得及把久疏戰事的霍邑城防建立完善，八月初一這天，雨水就突然停止，天氣放晴，還一連就是好幾天的晴空萬里。
碰上了這樣可遇不可求的好事，李淵當然不可能辜負上天對他的垂青，八月初二這天命令全軍暴晒武器盔甲、衣服裝備，八月初三這天就立即著手布置攻城，又採納李二的誘敵計，派李建成和李二兄弟率領數百騎兵擔任先鋒，自領步兵主力隨後而行，然後李建成和李二兄弟到得了霍邑城下之後，少不得用各種粗鄙語言問候龐玉、霍世舉等隋軍大將的十八代祖先，期間李二自然少不得提起龐玉當年被楊玄感俘虜的丟臉事，要龐玉趕快去請陳喪良再來救他。
性格急噪的龐玉果然中計，被激怒後一咬牙親率三萬隋軍從東門北門出城迎戰，出城期間，李淵率領的叛軍步兵大隊也趕到戰場，兩軍對陣於野，龐玉將軍隊一分為二，分別在城東、城北兩地列陣，互為掎角之勢，李淵也將軍隊一分為二，親自率軍與龐玉對陣於北門，令李二和段志玄率軍迎戰東門隋軍。
立陣剛定，此前在雀鼠谷吃了大虧的龐玉壓不住心中火氣，首先發起進攻，李淵詐敗退卻，引誘龐玉軍放棄堅陣發起追擊，龐玉再度中計，追擊間陣腳鬆動，後方露出破綻，立陣於城東的李二和段志玄乘機率領騎兵發起衝擊，猛衝龐玉背後，李淵也乘機掉頭殺來，激戰間，武藝超群的李二手刃數十敵人，雙刀都砍出了缺口，勇不可擋，徹底挫動隋軍心膽。那邊李淵見戰場已陷入混亂，遂命令全軍高喊口號，聲稱自軍已經生擒到了龐玉。
很簡單的攻心計，儘管龐玉的帥旗未倒，仍然還在戰場上高高飄揚，但是士氣不振的大興隋軍卻偏偏中了計，相信主帥被擒的恐慌之下，許多隋軍將士潰散而走，影響同伴鬥志，滾雪球一般造成大量士兵陷入慌亂狀態，士氣如虹的李淵叛軍乘機狂沖猛打，隋軍大敗而逃，龐玉努力約束無效，又見大批叛軍向自己衝來，膽怯之下趕緊拍馬而走，帶著親兵逃向北門，李淵父子全力追殺，說什麼都不肯錯過這個破敵機會。
數量龐大的隋軍敗兵給叛軍打了免費前鋒，壓住了弔橋無法升起，堵住了城門無法關閉，久疏戰事的霍邑城又不象虎牢關那樣，在城門上方懸掛有夜叉擂可以在關鍵時刻阻擋人流，霍世舉在城上大吼大叫命令趕緊關門，城門兵卻死活擋不住如潮人流，推搡之下，隋軍城門官還無比倒霉的被人潮衝倒，被自家敗兵活生生踩死，門兵膽怯下更不敢阻攔，後面的李淵叛軍乘機尾隨而上，先是砍斷弔橋絞索，接著跟隨隋軍敗兵人流沖入城內，奪佔了城門要地。
再無任何懸念，隋軍主將龐玉雖然也僥倖逃進了城內，但士氣低落的隋軍將士卻根本擋不住李淵叛軍的前進腳步，揀到了天降大餡餅的叛軍上下人人爭先，個個奮勇，殺得倉促迎戰的城內隋軍無法招架，霍世舉幾次組織軍隊巷戰攔截，試圖奪回城門，也都被勢不可擋的叛軍幾下子打潰，最後隨著攻入城內的叛軍士兵越來越多，在城內佔據的區域越來越大，龐玉與霍世舉也沒了辦法，只能是匆匆領了殘兵敗將棄城而逃，叛軍乘機奪占霍邑，同時分兵追殺隋軍敗兵，拚命削弱隋軍的作戰力量，不過龐玉和霍世舉喘息機會。
大勝後的李淵叛軍當然是一片歡騰，李淵又下令給輔兵與戰兵同樣的犒賞後，歡呼聲陡然又加大了數倍，數量居多卻賞格較少的叛軍輔兵個個喜形於色，無不慶幸自己跟對了人，覺得為老李家賣命十分值得，錦上添花的是，此刻偏巧了叛軍偏師張綸部神速攻佔離石郡、擒殺拒絕投降的離石太守楊子崇的消息，叛軍隊伍里的歡呼聲更是一下子達到了頂點，攻佔大興、擁立代王的振臂口號聲響徹全軍全城，軍心振奮到了極點。
看到這樣的熱烈場面，李建成、李二兄弟和李淵軍高級將領當然也是無不歡欣鼓舞，都說士氣可用，自軍這次又一戰拿下霍邑城池，足以證明自軍這支新組建的軍隊戰鬥力強大，絕不亞於任何一支當世雄師，攻破大興易如反掌。然而興奮自信的同時，李建成、李二和劉文靜等精細之人，卻發現身為全軍主帥的李淵臉上反倒沒有多少喜色，言語間偶爾還有些前言不搭後語，似乎正有心事。
察覺到了這點，李建成便小心向李淵問起了原因，李淵猶豫了一下，然後才說道：「沒有必要再隱瞞了，直接告訴你們吧，其實十幾天前我就已經收到了消息，陳應良已經奪回了虎牢關，打跑了李密和翟讓。」
「陳應良已經拿回了虎牢關？打跑了李密翟讓？」叛軍幾大將領全都失聲驚叫，李建成和李二也都是臉色一變，同樣在場的降將雲定興也眼中閃過光芒，但沒有吭聲。而神情反應最為激烈的，當然還是已經被封為李淵叛右領軍長史的柴紹——雙手攥得指關節都在發白！
李淵點點頭，笑容有些苦澀，說道：「當時我們剛進入雀鼠谷準備和官軍交手，我怕影響軍心，打擊士氣，就隱瞞了這個消息。翟讓李密被陳應良和王世充前後夾擊，在十里堡與陳應良會戰時，又被陳應良以少勝多打得大敗，損失十分慘重，也被王世充卡住了糧道，為了保全實力，翟讓李密不得不棄關而走，陳應良重新控制了虎牢關，也徹底扭轉了東都戰場的被動挨打局面。」
叛軍諸將都不吭聲了，李淵則輕輕嘆了一口氣，道：「雖然老夫不願意承認，但事實就是事實，陳應良這個小匹夫在戰場上確實難纏，翟讓李密合兵超過十五萬，其中百戰精銳數量相當不少，整體實力其實超過我軍，還有虎牢關堅城雄關可守，照樣被這個小匹夫打得招架不住，被迫棄關逃命。這個小匹夫在戰場上的厲害，再一次超過老夫想像。」
「如果是這樣的話，我們想要進兵關中，路上又要出現陳應良這塊絆腳石了。」裴寂拈著鬍鬚說道：「不管接下來的戰況如何，只要我們的義師突破黃河，踏足關中，屆時大興都一定會向東都求援，陳應良已經從虎牢關戰場抽身，又和大將軍（李淵）有著深仇大恨，九成九會親自提兵來與我們決戰。這個匹夫作戰謹慎，用兵有方又詭計多端，麾下強將勁卒數不勝數，肯定會成為我們拿下大興的最大敵人。」
除了少許將領不知死活的叫嚷讓陳喪良儘管來，大部分的叛軍諸將都不吭聲，他們都在雁門戰場上給陳喪良當過炮灰走狗，親眼見過陳喪良的用兵用計，知道陳喪良的厲害，也都對與陳喪良正面交戰有一定畏懼心理——這也正是李淵此前故意隱瞞陳喪良已經光復虎牢關的原因。
見不少將領神情擔憂，李淵怕影響士氣，忙又說道：「也用不著太過擔心，就老夫收到的消息，東都精銳這一次在虎牢關戰場也損失不小，精兵勁卒折損近半，剩下的大都帶傷，軍隊疲憊異常，已經徹底傷及了元氣。那個自稱魏公李密，也給老夫送來了密信，向老夫介紹了虎牢關戰情經過，證實東都官軍這一次在虎牢關損失慘重，短時間內很難發起大規模戰事。」
「父親，李密給你來信？還說了什麼？」李二趕緊問道。
「還說了很多，事實上，如果沒有李密這道書信，我可能就要重新考慮進兵大興的計畫了。」李淵順口答道：「李密除了向我介紹虎牢關戰事的情況外，還給我指出了陳應良小匹夫的用兵特點，又力勸老夫率軍直抵河內，與他會師聯手共取洛陽，還承諾用黎陽倉的糧食，讓我軍不必為糧草擔心。」
「想得美。」李二輕蔑的說道：「會師河內共取洛陽？想讓我們給他衝鋒陷陣消耗東都實力就明說，黎陽倉的糧食我們也不稀罕，關中的永豐倉糧食比黎陽倉多得多。」
不知道為了什麼原因，李淵突然瞪了李二一眼，李二自知失言，趕緊閉嘴，李淵這才說道：「總之諸公可以放心，陳應良小匹夫確實難纏，但是他的主力軍隊已經元氣大傷，短時間內難以再戰，餘下的新兵輔兵數量再多也不足為懼，我們只管放心南下，如何破敵待到與陳應良遭遇再說，我們義軍是順天應人，有天神呵護，陳應良助紂為虐，為虎作倀，天怒人怨，必然不是我們的對手！」
叛軍眾將答應，這時夜色已深，軍隊作戰疲憊，李淵便沒有再說什麼，吩咐了眾將各自散去休息，僅僅只留下李建成、李二和柴紹三人，而眾文武前腳剛走，李淵馬上就指著李二喝道：「在進入關中前，不準再提到關於永豐倉的一個字！我軍新建，人心未穩，要防著消息走漏，暴露天機！」
李二老實唱諾，也承認自己剛才失言，李淵又重重哼了一聲，這才問道：「李孝常那裡，可有消息？」
「有。」李二低聲答道：「李孝常奉命替我們試探潼關守將劉綱，發現劉綱雖然平庸無能，貪財好色，但是對暴君卻忠心耿耿，李孝常在劉綱面前提起父親你的名字，劉綱對父親你的敵意十分明顯，