雨一直下。
從李淵帶著軍隊來到賈胡堡時就始終沒有停過。
軍營中的糧草快告罄了，太原的補給卻遲遲沒有到。
而出使突厥的劉文靜也還沒有回來，突厥人許諾的士兵和戰馬至今未見蹤影。
於是一個令人不安的消息便開始在軍營中悄悄流傳。消息說——突厥人和劉武周正準備進攻太原。
這是真的嗎？
李淵不願相信它是真的。
可又不敢確定它是假的。
這支離開太原還沒打過一場仗的軍隊，就這麼在大雨、糧荒和流言的多重困擾中躑躅不前、人心浮動。連日來李淵的心情也跟這雨水連綿的天氣一樣潮濕而陰鬱。
最後李淵只好召開一個緊急會議，討論到底是要打霍邑，還是要回太原。
與會的一些將吏提出了四條必須班師的理由。一、我們的糧草快完了，而宋老生和屈突通遙相呼應、據險而守，一時半會兒絕對攻不下來。二、李密雖然口頭上說與我們聯合，可這到底是不是一個陰謀還很難說。三、突厥人貪而無信、唯利是圖，劉武周曆來與其狼狽為奸，所以他們企圖進犯太原的消息不可不信。四、太原是我們唯一的根據地，義兵的家屬都在那裡，不如先回去保住大本營，然後再從長計議。
此言一出，多數人都投了贊成票。
李淵不置可否，把目光轉向一直悶聲不響的李建成和李世民，說：「你們意見如何？」
此時此刻，他只能把希望寄托在兩個兒子身上了。
因為眾位將吏的意見讓他有些失望。
誠然，李淵也認為他們的說法有一定道理，萬一出師未捷而老巢被占的話，那麼後勤補給就會中斷，將士們就會喪失鬥志，隊伍就會陷入進退失據、腹背受敵的困境。這種危險的確是存在的，李淵心裡何嘗沒有相同的擔心和顧慮？但是換個角度來看，義軍自從大張旗鼓地南下以來，至今未打一仗、未下一城，倘若稍遇挫折就當縮頭烏龜，那還奢談什麼平定海內、問鼎天下？到時候不但會遭天下英雄恥笑，而且好不容易凝聚起來的人心和士氣也會潰散瓦解、功虧一簣！太原固然重要，可始終龜縮在老巢中就能高枕無憂了嗎？恰恰相反，這更危險！因為這麼做等於是在向隋朝的軍隊、向突厥人和劉武周、向四方群雄示弱！到時候這些人四面來攻，太原就能保得住嗎？就算勉強保住了，日後還要不要爭霸天下、要不要再度出征？如果再度出征，那麼來自後方的突厥人和劉武周的威脅不是照樣存在嗎？除非永遠龜縮在太原一隅，否則這個「前進還是後退」的問題就會像一場可怕的夢魘一樣永遠纏繞在李淵和所有人的心頭。
所以，選擇後退實際上是在逃避問題，而不是在解決問題。
既然這個問題不可能自動消失，既然前進和後退都存在危險，那麼為什麼不選擇前進、放手一搏呢？
想到這裡，李淵實際上決心已定。
但是這些話李淵不能說。
他必須讓兩個兒子來說。
所幸李建成和李世民沒有讓李淵失望。他們針鋒相對地提出了四條反對班師的理由。一、眼下遍地都是莊稼，何必擔心斷糧？宋老生輕率急躁，一戰便可將其生擒。二、李密一門心思守著東都的大糧倉，一直在與東都軍隊進行拉鋸戰，根本無暇做長遠的打算。三、劉武周表面上投靠突厥，背地裡卻和突厥人互相猜疑；雖然貪圖太原，可他更擔心自己的老巢馬邑被人抄了後路。四、我們之所以舉義，就是為了奮不顧身拯救蒼生，先入長安、號令天下！如今遇上小小的挫折就遽然班師，恐怕義軍會一朝解體。我們就算困守太原一城之地，到頭來還是一小撮盜匪而已，拿什麼保命？
最後，李建成和李世民瞟了眾人一眼，毫不客氣地說：「定業取威，在茲一決！諸人保家愛命，所謂言之者也；兒等捐軀力戰，可謂行之者也……雨罷進軍，若不殺老生而取霍邑，兒等敢以死謝！」（《大唐創業起居注》）
這是李淵集團內部在軍事戰略上發生的第一次分歧。
李淵看了看這兩兄弟，又看了看他的一大幫文武將吏。一邊兩票，一邊N票。他最終咬咬牙作出了決定——多數服從少數。
打！
自助者天助之。
或許是李淵父子的堅持最終也感動了上蒼，七月二十八日，太原糧草運到。
八月初一，天空放晴。
八月初二，李淵命全軍在太陽下暴晒鎧甲、武器及其他衣服裝備。
八月初三，天色剛亮，李淵率全軍開拔，沿著東南山麓的小道直插霍邑。
「如果宋老生拒不出戰，你們說該怎麼辦？」在路上，李淵問李建成和李世民。
兩兄弟胸有成竹地說：「宋老生有勇無謀，我們只要派小股騎兵在城下挑戰，他沒有理由不出戰；假如他仍然固守城池，我們就散布消息，謊稱他消極怯戰，正暗中準備向我們投降。宋老生擔心被同僚告發，不戰也得戰！」
李淵點點頭：「你們的判斷沒錯。宋老生沒有趁我們被困於賈胡堡時發動攻擊，我就估計這個人沒多大能耐了。」
部隊迅速進抵霍邑。李淵率數百名騎兵在霍邑東面數里等待步兵主力，李建成和李世民率數十名騎兵馳至霍邑城下，一邊揚鞭揮手製造攻城假象，一邊高聲詬罵試圖激怒宋老生。
有勇無謀的宋老生果然一下就被激怒了，率領三萬人分別從東門和南門出擊。李淵急命殷開山召集後續的步兵主力進入戰場，隨後命李建成在城東列陣，命李世民在城南列陣。
為了一戰消滅宋老生，防止他逃回城中據守，李淵決定佯裝敗退，吸引宋老生更遠地脫離城池。
宋老生首先對東面的義軍發起進攻。李淵與李建成假裝受挫，開始往後退卻。李世民與部將段志玄立即率騎兵從南面直衝宋老生軍陣，攻擊他的後面。
雙方短兵相接，戰鬥異常激烈。李世民衝鋒在前，一連砍殺數十人，手上的兩把刀都砍出了缺口，鮮血濺滿了他的衣袖。李世民甩甩袖子，繼續作戰。
在李世民的衝擊下，宋老生的陣勢開始散亂。李淵趁機命人在陣前大呼：「宋老生已經被活捉了！」
隋兵聞言鬥志全失、瞬間潰散，宋老生不得不轉身而逃。李淵率軍追至城下，城內守軍慌忙緊閉城門，放下一條繩索救宋老生。
宋老生攀上繩索，剛剛爬了幾米高，李淵的部將盧君諤就從後面縱身躍起，將他硬生生拽了下來，隨即一刀砍下了宋老生的首級。
這一戰，隋軍的三萬人馬全軍覆沒，李淵這邊也付出了極大的傷亡。兩軍的屍體層層堆積在霍邑城外的原野上，一直綿延了好幾里。
到了這一天的黃昏時分，略作休整之後，李淵下令軍隊開始攻城。當時義軍還缺少大型的攻城器械，士兵們都是強行攀上城牆，經過一番鏖（áo）戰，終於將霍邑攻克。
這是李淵南下以來取得的第一場勝利，雖然付出了一定代價，但還是極大地鼓舞了士氣。進入霍邑後，李淵開始論功行賞。軍中負責授勛的官吏提醒他說：「奴僕出身的人，似乎不該跟一般戰士有同等待遇。」李淵說：「飛石流箭之間，不分誰貴誰賤；為何評定功勛的時候，卻要分尊卑等級呢？應該完全平等，有什麼功受什麼賞！」
攻克霍邑之後，李淵迅速南下，一路勢如破竹，八月八日佔據臨汾郡（今山西臨汾市），八月十三日攻克絳郡（今山西新絳縣），八月十五日進抵黃河東岸的龍門（今山西河津市）。就在這一天，劉文靜和康鞘利也帶著五百名突厥士兵和兩千匹馬趕到了。李淵大喜，對劉文靜說：「馬多人少，正合我意！」
終於站到黃河岸邊了。望著奔騰咆哮的黃河水，李淵心中感慨萬千，只要一步跨過黃河，就能進入關中直取長安了。
夢想中的煌煌帝業似乎已經越來越清晰地呈現在李淵面前。
就在這個時候，關於下一步的進軍路線，軍隊中再次出現了兩種不同的聲音。
剛剛投奔義軍的河東戶曹任瑰等人認為：不要攻擊屈突通重兵駐守的河東，應該從龍門直接渡過黃河，招降當地義軍，同時奪取潼關北面的永豐倉。如此一來，在攻克長安之前就可以把整個關中握於掌心。李淵本人也傾向於這個意見。
但是他手下的多數將領卻表示反對。他們認為應該先把河東郡這顆釘子拔掉，再渡河入關，以免後患。
謹慎的李淵決定暫不渡河，先與關中義軍取得聯絡後再作打算。
八月十八日，李淵給當時關中勢力最強的義軍首領孫華寫信進行招撫。六日後，孫華渡河前來晉見。李淵大喜過望，當即任命他為左光祿大夫，封武鄉縣公，兼馮翊郡（今陝西大荔縣）太守。隨後命左統軍王長諧、右統軍劉弘基等人率步騎六千，與孫華一起渡河，在黃河西岸紮營，等待大軍主力。
臨行前，李淵對王長諧說：「屈突通手下精銳不少，跟我們相距才五十餘里，如