楊玄感是不是能這麼一直凱歌高唱下去？那還要看他下一步怎麼走。此刻，他勢力發展得很快，但是，那都是在洛陽周邊，洛陽城可始終在樊子蓋手裡。此前交代過，一個小小的高句麗遼東城，因為修得比較堅固，隋朝幾十萬大軍一個月都打不進去，何況是精心修築的大隋東都洛陽！楊玄感猛攻了一個月，洛陽城還是壁壘森嚴。
這對楊玄感而言相當不利。因為就在他和樊子蓋僵持不下的這一個月里，隋朝的各路救援大軍從各個方向朝洛陽撲過來了。
第一路大軍是首都大興城的救援部隊。當初，隋煬帝東征，讓樊子蓋輔佐越王楊侗留守洛陽，讓刑部尚書衛文升輔佐代王楊侑留守大興城。現在，衛文升聽說楊玄感叛亂，立刻就率領七萬大軍直奔東都而來。
衛文升是個狠角色，路過楊玄感他們老家華陰的時候，先把楊素的墳給挖了，把楊素的屍骨也給扔出來燒了，這一方面是宣誓和楊玄感不共戴天，另一方面也是杜絕士兵投降。因為中國古代人講究孝道，一個把你爸爸挫骨揚灰的人，就算投降也不能被原諒。這樣一來，士兵斷了投降這條路，只能和楊玄感拚命了。
從大興城到洛陽要經過函谷關，當時有人就勸衛文升說，函谷關可是險要地方，萬一楊玄感在這裡設埋伏怎麼辦？我們不如持重一點，先讓人探探消息再說。
衛文升說，楊玄感的本事我心裡有數，他此刻一心攻城，不可能有伏兵函谷關的遠略！所以我們無須觀望，果斷出關就是了。
果然，路上並沒遇到楊玄感的伏兵。就這樣，衛文升的大軍成了率先趕來的一路。
第二路大軍是來護兒的部隊。楊玄感起兵的時候，謊稱來護兒造反。這話傳到來護兒耳朵里，可把他給氣壞了。你小子自己謀反也就罷了，居然敢敗壞我的名頭！來護兒立刻召集將領，讓他們做好準備，馬上回師救援東都！問題是，當時他們的軍隊還在東萊海口待命，準備渡海攻打平壤，將領一聽來將軍要回師，都害怕了，紛紛說：如今皇帝陛下嚴厲，沒有他的敕書，我們能隨便亂動嗎？
來護兒勃然大怒，厲聲道：「洛陽被圍，心腹之疾；高（句）麗逆命，猶疥癬耳。公家之事，知無不為，專擅在吾，不關諸人，有沮議者，軍法從事！」洛陽被圍，這是心腹大患；高句麗違抗天命，只是癬疥一樣的小病。國家有難，當大臣的就應該知無不為，怎能患得患失！這個決定是我做出的，和你們沒有關係，一旦皇帝怪罪下來，我絕不連累你們。現在，如果有誰敢阻撓我，一律軍法從事！當天就率領大軍往回走了。
當然，來護兒也不是魯莽之人，在開拔的同時，他又讓自己的兩個兒子趕緊去見隋煬帝，向隋煬帝稟明情況。這兩位來公子見到隋煬帝，把來護兒的行動跟隋煬帝一說，隋煬帝真是喜出望外，立刻就給來護兒寫了一封信，信上說：「公旋師之時，是朕敕公之日，君臣意合，遠同符契。」你回師的日子，正好就是我在這裡發布敕令，讓你回去救援的日子啊！看來咱們君臣情意相投，就好像符契一樣吻合。總之一句話，這件事來護兒做對了！
就這樣，因為來護兒不等敕命，當機立斷，第二路大軍也從東面進逼東都了。
第三路大軍就是隋煬帝親自統率的軍隊。隋煬帝一聽說楊玄感造反，趕緊燒營回軍，並派左翊衛大將軍宇文述和左候衛將軍屈突通火速先行，直撲洛陽。
屈突通也是關隴貴族集團成員，素以嚴厲著稱，當時有個歌謠，叫作「寧食三斗蔥，不逢屈突通」，寧可吃進去三斗大蔥，也不願意跟屈突通打交道。這樣的惡人得多麼令人畏懼！毫無疑問，從這首歌謠里就能看出來，屈突通絕非平庸角色。
這樣，第三路大軍又從北向南撲過來了。
這樣一來，楊玄感就陷入最初起兵時李密所講的那種四面受敵的境地了。那麼，他能不能對付得了這些人？其實，別看楊玄感此前一直擔任文職，但是，所謂將門有將，從小耳濡目染，他真是一個不錯的將軍，按照《資治通鑒》的說法，是「玄感每戰，身先士卒，所向摧陷，又善撫悅其下，皆樂為致死，由是每戰多捷」。楊玄感帶兵打仗永遠身先士卒，每次都說「弟兄們跟我來」，而不是「弟兄們給我上」。這樣一來，弟兄們當然都樂於追隨主帥。另外，楊玄感平日里對士兵也很不錯，親切和藹，所以士兵都願意給他賣命，因此打仗的時候總能獲勝。這些優點，多像西楚霸王項羽啊！這樣的將軍，還是很有戰鬥力的。
衛文升最先前來救援，也最先感受到了楊玄感的威力，跟楊玄感一交戰，馬上損失慘重，手下士兵死傷大半。而楊玄感倒是越打越勇，手下人數都超過十萬了。
可是，俗話說得好，好虎架不住一群狼。以楊玄感的勇猛，抵擋衛文升一支軍隊還可以，但很快，屈突通大軍也到了黃河北面，馬上就要渡河過來了。
在兩面夾擊之下，降將李子雄給楊玄感出了一個主意。李子雄說：「通曉習兵事，若一得渡河，則勝負難決，不如分兵拒之。通不能濟，則樊、衛失援。」屈突通是個厲害角色，如果他渡過黃河參戰，我們的麻煩就大了。所以，一定要把他擋在黃河北岸，不讓他過來。怎麼才能不讓他過來？只有分兵。一支軍隊繼續對付衛文升，另一支軍隊趕緊去攔截屈突通。當然，還得有一部分軍隊留下來包圍洛陽城。
這種戰略在兵法上叫圍城打援，而且，是同時打兩支援軍，一支是衛文升，另一支是屈突通。
這個主意，不能說不好，算是在歷史上久經考驗的經典戰術。但是它有個問題，楊玄感的兵力本來就不佔優勢，這樣一分為三，兵力就更弱了。更何況，洛陽城裡的樊子蓋也不是傻子，他正指望著屈突通的援軍，楊玄感想到打援，樊子蓋能讓他去嗎？
果然，楊玄感打援的部隊剛要開拔，樊子蓋就立刻率領大軍出城作戰，而且屢戰屢勝，把楊玄感牢牢地拖在了洛陽城下。
至此，所謂圍城打援的計畫也就沒能實施得了，屈突通很快就渡過了黃河。這樣一來，楊玄感這邊的形勢可真是危急了。這時候，李子雄又進了一言：「東都援軍益至，我軍數敗，不可久留，不如直入關中，開永豐倉以振貧乏，三輔可指麾而定，據有府庫，東面而爭天下，亦霸王之業也。」現在各路援軍都過來了，我們不能再死圍著洛陽城，應該往關中走，到了關中之後，打開永豐倉來賑濟百姓，奠定群眾基礎，接著我們就在關中地區盤踞下來，面向東方和隋煬帝爭奪天下。
這不就是李密提出的中策嗎？當初可是被楊玄感斷然否決掉的，現在，他若是再不走這一步，眼看就要被隋朝的各路官軍包餃子了，所以，楊玄感二話不說，同意開拔。
問題是，怎麼跟手下解釋要放棄洛陽這件事？直接說我們打不過了，眼看就要被包餃子了，未免影響士氣，楊玄感並不想這樣做。這時候，李密給他出了一個主意。李密說：「弘化（今甘肅慶城縣）留守元弘嗣握強兵在隴右，可聲言其反，遣使迎公，因此入關，可以紿眾。」跟將士們不提我們打不過，只是說，甘肅那邊也有人造反了，現已派使者迎接我們過去，所以我們得趕緊去擴大戰果。這不就變被動為主動了嗎？
楊玄感一聽，很有道理，就這麼宣傳吧。
此前提到，衛文升從關中出來的時候，先到楊玄感的老家華陰掃蕩了一圈，華陰楊家損失慘重。正好這時候，楊玄感在華陰的親戚趕過來了，要楊玄感替他們做主。這樣一來，楊玄感就順理成章地把這些落難的親戚說成是元弘嗣派來迎接他們的使者，然後宣布說：「我已破東都，取關西矣！」我已經攻破了東都洛陽，現在要去攻取西關了！於是率領大軍，浩浩蕩蕩地往西進軍。