三日之後，李世民點齊將官，與李元吉一起帶領從騎三百人，打馬奔赴洛陽。李世民認為對付劉黑闥不需要大動干戈，待到了洛陽撥出三萬人馬就足夠了，因而不需大肆調動其他州府之兵。
此次出征，李世民又換了一匹戰馬，名為「拳毛」。那匹「什伐赤」被張萬歲帶回隴西配種去了。「拳毛」還是由代州都督許洛仁在虎牢關時進獻的，此馬為權於麾國的大良馬，周身皆是黃色捲毛，唯嘴頭為黑色，性子雖烈，卻頗通人意。
一行人到了洛陽，暮色已濃。當初李世民返回長安時，奏請溫大雅為河南道安撫大使，張亮為洛陽都督。其時溫大雅已奉詔回京。張亮為昔日秦王府車騎將軍，聞聽主人前來，早早地帶領一干洛陽官吏出城門五里外迎候。入城後，張亮已為眾人準備了住處。他們吃過洗塵宴就散去，李世民依舊住在洛園，聞聽張亮已將出征的三萬人馬準備好，甚為滿意。
經歷了兩天的旅途勞累，李世民想早早地休息，然而房玄齡和杜如晦突然推門撞入，臉現驚慌之色。
這兩人平日里謹慎端正，沉靜大度，很少這般，李世民不解地問道：「什麼事兒讓你們如此慌張？」
杜如晦擦了把頭上沁出的細汗，說道：「今日玄齡兄與我到了新安，想順路看看楚客，於是就下了路。我們見了楚客，見他正緊鎖眉頭在那裡發愁。細問究竟，原來近日新安來了一撮人，他們散在莊園周圍暗中窺探，顯然要不利於山莊。」
「知道這群人是什麼來歷嗎？」李世民一聽也緊張起來。
「楚客發現了這幫人，派庄丁前去打探搭話，對方躲躲閃閃，偶爾露出一句半句話，系京城口音。」
「我和如晦一聽，覺得這幫人來者不善，就急忙打馬趕來。路上我們議論，這幫人肯定不是尋常盜賊，其後定有背景，他們顯然是沖著那批寶貨而來。秦王，事不宜遲，要將寶貨儘快轉移，以防夜長夢多。」房玄齡語聲急促，焦急地插話道。
李世民低頭陷入了沉思。
那日韋挺和史萬寶脫下官服換上常服，又去市上買了兩匹馬，出長安慢慢向洛陽行去。到了洛陽，他們不去拜見溫大雅等人，而是悄悄尋了一處僻靜的客舍住下。到了晚間，史萬寶換上一襲夜行衣，憑藉輕功爬屋上瓦，四處打探消息。
時間不覺匆匆過了兩個月，眼見要到年關，兩人依然沒有得到有價值的消息。韋挺灰心至極，幾次嚷嚷著要返回長安，被史萬寶勸住。
當晚史萬寶又整裝出外。這些日，他已將偵察重點鎖定在幾名昔日鄭朝的黃門官身上。自從唐軍入了洛陽，這些人就丟了職業。待唐軍大隊離去，他們仗著有些積蓄，整日里遊手好閒，不務正業。史萬寶訪得他們今晚要在陳寶曆家聚會，就攀到其客廳房頂上，揭下一片瓦，凝神聽他們說話。
陳寶曆原任王世充的黃門侍郎，現在儼然是數人的頭領。酒過三巡，座中有人說陳寶曆：「現在你也會對付了，這餐中的瑤柱就是陳年的宿貨。」陳寶曆哂道：「別挑三揀四了，再過幾年，恐怕連這也難以吃上。」
座中有人笑道：「你當初為黃門侍郎，最知道宮中寶貝在什麼地方。若你能隨便拿出一件兩件遠走高飛，怎會有今日之困呢？」
陳寶曆道：「說得輕巧。唐軍入城後如狼似虎，有時為爭一件寶物打得頭破血流，何況宮中重寶呢？唉，眼見那成匣成匣的寶貨被唐軍搬出，要說不眼紅，那是假話。」
席中你一言我一語，邊飲邊說，鬧到半夜。待眾人散去，陳寶曆醉眼矇矓轉身欲就寢的時候，史萬寶從天而降，一把尖刀抵住陳寶曆的喉嚨，逼問這批寶貨的去向。
陳寶曆嚇得魂飛魄散，酒醒大半，顫聲道：「好漢饒命，當時這批寶貨被唐軍封存，我輩皆被驅出宮外，究竟落在何處，小人真的不知道。」
史萬寶冷笑道：「不知道？你在洛陽經營多年，我就不信你一點兒都不知道。好好想想！」
「這……這……讓我好好想想。對了，我聽說這批貨後來被運出洛陽，直奔長安去了。」
「到底運往何處？」「好漢，小人委實不知道。噢，我想起來了，聽說為了運送穩妥，唐軍讓經營油壁車的掌柜陳老倌兒幫忙，你不妨找他問問。」
史萬寶問明了陳老倌的地址，尖刀一閃，登時結果了陳寶曆的性命。
史萬寶尋到陳老倌，威逼利誘，用盡了手段，終於問清那批寶貨的去處。原來唐軍付下定金，僱用陳老倌所有的油壁車，讓他兩日之後再到新安城取車。陳老倌也不知實情，迷迷糊糊說了這些，史萬寶總算滿意，並未殺他。
史萬寶與韋挺得到這個線索，頓時歡喜雀躍。兩人結束停當欲去新安探個究竟，然而此時李建成捎信來，讓兩人先返回長安。原來李神通其時在河北忙得不亦樂乎，要求派將增援，朝中改授史萬寶為山東道行台郎中，令他速去就任，同去的還有王君廓等人。如此一來，探訪寶貨的事兒就落在韋挺身上。年關剛過，韋挺在東宮選上二十人，悄悄潛入新安秘密訪查。一日韋挺得知避暑山莊里新來一位莊主，算算時間他正是去年七月間才來入住。韋挺疑雲重重，一面想法打探此人來歷，一面派人在莊園四角暗地裡監視。
房玄齡、杜如晦所說的正是韋挺這幫人。
李世民抬頭道：「不管他們是何方人士，我們小心為妙。如晦，你去將無忌叫來，事不宜遲，今夜要將這批貨轉移走。」
杜如晦轉身出外，李世民目視房玄齡道：「這批貨放在什麼地方最為妥當？」
房玄齡默想片刻，斷然道：「從何處來，到何處去！當初將此貨放在新安，其實百密一疏，那裡人少路靜，稍有動靜就有跡可尋。洛陽城大，人員來往多，我們可將貨物運回，讓張亮找一安穩地方收藏。」
這時，杜如晦和長孫無忌走入房來。
片刻間，李世民已經想好了對策，對三人道：「你們挑選一些妥當之人，分成兩隊。一隊由玄齡、如晦率領，尋來一批油壁車，將其裝滿陝州稻米，一路大張火把先奔新安莊園。稍作停留後，連夜再向長安行去，入長安後將米送入宮中，就說是我送給父皇之米。另一隊由無忌帶領，你們見車出了莊園，從後牆依次將寶貨搬出送入澗水船上，然後放舟下行，我再讓張亮到渡口接應。」
三人知道這是李世民使出的障眼法兒，急忙躬身出外各自安排。
第二日一大早，李神通滿面惶然來見李世民。其時李世民剛剛用過早膳，見叔父前來，心裡又好氣又好笑。想他畢竟為自己的叔父，嘴裡說出的話兒很是得體，將李神通的一顆心熨得甚是妥帖。李神通誓言聲聲，堅持一同出征，定報一箭之仇。
巳時，北伐之軍整頓停當，張亮將兵器、糧草之物也一一備好。李世民一聲令下，三萬大軍沿北邙山奔向回洛城，由這裡開始渡河，當日就齊集河陽。
聞聽李世民率領大軍前來，許多被劉黑闥打散的唐吏前來相聚，其中就有被殺敗的王君廓、史萬寶等人。數日間，北征大軍從出洛陽時的三萬人壯大到五萬人。這日傍晚，大軍進至獲嘉縣。李世民計畫在這裡短暫休整後，一鼓作氣殺向劉黑闥據守的相州城。
許是李世民的名聲太大，劉黑闥聽說李世民已經進兵至獲嘉，心中大懼。又見相州城小，且自己戰線拉得太長，恐難擋李世民之一擊。他與眾將商量後，拔寨離開相州，直奔洺州據守。這樣，李世民不費吹灰之力就得了相州。
程咬金掩飾不住滿心的狂喜，大聲向眾將炫耀：「如今的秦王啊，本身就是一塊金字招牌，賊人一聽就嚇得渾身發抖。像劉黑闥前些日子多麼猖狂啊，一聽秦王來到，立即溜之大吉。」
眾人皆然其言，唯其中的李元吉、王君廓、史萬寶聽著不是滋味。
次日，李世民整軍北上，其時天寒地凍，道路一時難行。李世民下令，兵貴神速，全軍頂風冒雪而行，行進甚疾。這日大軍行到肥鄉，劉黑闥布下的守城之軍不堪一擊，很快被迫出降。肥鄉一失，周圍的劉軍聞訊大懼，紛紛來降。數日間，豫章守將張善安攜虔、吉等五州來降，陽孝成、馮伯讓等人也舉城來歸，這日，劉黑闥的洺水城守將李去惑派人來見李世民，言說欲獻洺水城出降。
洺水城位於漳水和洺水的交匯處，距離劉黑闥的都城洺州僅有二十餘里。該城地勢緊要，是洺州聯絡山東之地的第一要道，歷來和洺州依為唇齒。李世民聞言後大喜，知道若得了洺水城，近可以直接威脅洺州，遠可以閘斷劉黑闥與東方諸州縣的聯絡。遂重賞來使，並派王君廓帶領一千五百騎隨來使進入洺水城據守。
李藝得了李淵的旨意，也整頓兵馬三萬出幽州向南攻擊。其時劉黑闥尚在相州，主力大部隨其南下，其北方防守甚是空虛。李藝揮師快速奪下定、欒、廉、趙四州，兵鋒所指，直逼劉黑闥都城洺州北面的最後一道屏障——邢州。李藝的推進速度甚快，竟然比李世民所領大軍的速度還要迅疾。劉黑闥感到了危機，就令范