決心已下，楊玄感著手準備，首先，利用職務之便（當時他負責督運糧草）扣留東征軍糧草，能不發就不發，能少發就少發，總之能餓死多少算多少；其次，派人召喚兩位隨皇帝楊廣出征的老弟楊玄縱、楊萬石回來一起造反，倒霉的楊萬石走到半道就被河北的地方官抓獲斬首，倒霉名字，萬石，「完蛋」；再者，派遣家奴裝扮成朝廷使者，從東到西大造輿論：大將來護兒謀反了，大家收拾好家當，準備參軍平叛！（來護兒當時正準備從山東萊州出海攻擊平壤。）
六月三日，胸有成竹的楊玄感進入黎陽城，關閉城門，裹脅民夫，製造鎧甲，設立官署，發布公告，宣布全面恢複隋文帝楊堅時的制度（等於宣告楊廣非法）。為了達到忽悠的目的，楊玄感給眾人講了一個故事，故事的內容是這樣的：先皇楊堅臨終時曾經交代家父，「好子孫為我輔弼之，惡子孫為我屏黜之」，後來家父又把這個神聖的任務交給了我，現在我就要上稟先旨，下順民心，廢此淫昏，更立明哲。
講故事的人繪聲繪色，聽故事的人云里霧裡，遺詔這種東西太沒譜了，死無對證，鬼知道到底有沒有呢，既然你說有，那就算有吧。
講完故事，楊玄感開始任命官員，先後任命了三個州的州長，以東光縣尉元務本為黎州刺史，趙懷義為衛州刺史，河內郡主簿唐禕為懷州刺史，這就算支起爐灶了。
任命完官員，楊玄感開始給招募來的士兵訓話。士兵的構成是這樣的，運輸民夫五千餘人，水手三千餘人，這些人有兩個共同點：一、服勞役時間很長，所以早就怨聲載道；二、痛恨東征，痛恨皇帝。
有了這兩個共同點，楊玄感的演講就有了切入點：「主上無道，不以百姓為念，天下騷擾，死遼東者以萬計。今與君等起兵，以救兆民之弊，何如？」眾皆踴躍稱：「萬歲！」
本就是乾柴，再加上楊玄感的烈火，八千餘人瞬間就完成了從黎民百姓到起義士兵的轉變。然而這些人來得快，去得也快，楊玄感的起兵從這一刻其實敗局已定，因為臨時拼湊的士兵有一個共同特點：起兵時意氣風發，失利時土崩瓦解。
興奮中的楊玄感並沒有意識到這個問題，他以為，皇帝遠在遼東，國內防守空虛，兩都由十歲娃娃鎮守，天下平定，有這八千人足矣。（見過幼稚的，沒見過這麼幼稚的！）
正當楊玄感籌劃未來的時候，他的一個老友不期而至，這個人就是李密。
李密是北周八柱國之一李弼的曾孫，深得楊素賞識，所以常在楊家出沒，跟楊玄感友情好到能穿一條褲子的地步，一條褲子，一三五你穿，二四六我穿，星期天讓褲子歇一天，咱哥倆一起裸奔。現在聽說楊玄感在黎陽起兵，李密星夜兼程來投，在他心裡，他等這一天也等了好多年。
李密最初憑藉祖上功績蔭為左親衛府大都督、東宮千牛備身，額銳角方，瞳子黑白明澈。楊廣見了他，感覺有些恐懼，對宇文述說：「左仗下黑色小兒為誰？」對曰：「蒲山公李寬之子李密。」楊廣曰：「這小子眼珠滴溜溜地轉，以後別讓他來了。」（此兒顧盼不常，無入衛）他日，宇文述對李密說：「你們家世代都是顯貴，你應該靠你的才學為朝廷服務，怎麼能當大頭兵呢？」（君世素貴，當以才學顯，何事三衛間哉。）
李密聽了宇文述的話後大喜過望，趕緊謝過宇文述稱病而去，不過在他心裡還是有了芥蒂：皇帝分明是看我不順眼，這不是以貌取人嗎？
心懷不平的李密開始發奮讀書，跟隨當世名士包愷讀書，通讀《史記》《漢書》，兵書讀破了無數本，同門師兄弟都被他甩在了身後。李密以為自己出人頭地的機會來了，結果問題又來了。
在隋文帝楊堅末年，老人家宣布取消了全國所有的學校，從此讀書無用了，李密只能自學成才，而且不知道學校哪一天重開；新皇帝楊廣登基之後恢複了學校，然而皇帝用人的面非常窄，皇帝需要的是能給他編撰書籍的學士，而不是李密這種熟讀兵法的人。
楊廣本身相當有才華，因此對知識分子反而不感冒，大業七年，楊廣命令選部、門下、內史、御史四個單位跟隨他在前往涿郡的船上辦公。等待遴選的三千多名知識分子跟隨隨時待命，部分官迷心竅的人一路跟隨龍舟走了三千多里，到了涿郡，大多數人才發現路白走了，什麼官都沒等到，只能掉頭再走回去，費用還得全部自理。來回六千多里路走下來，手無縛雞之力的知識分子們由於天寒地凍、飢餓疲憊，死亡不斷，最後一統計，死亡率為百分之十到二十，三千多人死了三百到六百人，可憐，可嘆，可悲。
滿腹經綸無處可用，熟讀兵法沒有展示空間，李密的鬱悶與日俱增。古代的讀書人一般有三種出路，一種是當官，一種是歸隱，最後一種就是造反了。李密當官沒指望了（被皇帝楊廣給辭了，當時又沒有正規的科舉），歸隱又不甘心，算來算去就剩下造反一條路。
明朝末年的李自成本來是朝廷驛站的一名驛卒，朝廷精簡驛站讓他下崗了，從此走上了造反的道路。同李密一樣，也是因為工作沒了著落給逼的。
人都是被逼出來的！
楊玄感起兵造反，李密總算等到了機會，在他心中早已有三套方案，分為上中下，現在他向楊玄感和盤托出。
第一套方案：佔領薊縣（今北京市），奪取臨渝（今河北省撫寧縣），切斷皇帝的歸路，屆時高句麗攻擊東征軍背後，必定全軍崩潰，皇帝手到擒來。
第二套方案：橫穿原野，直取大興，佔領關中，據守險要，天下可慢慢取得。
第三套方案：集中精銳部隊，襲擊洛陽，然後號召四方起兵響應。
按照李密的規劃，上策奪取北京，阻擋皇帝退路；中策佔領大興，奪取根據地；下策進攻洛陽，以洛陽為起義中心。三條計策，以奪取北京最險，以攻打洛陽最穩。對於楊玄感來說，最現實的問題是全家一百多口都在洛陽，只有先拿下洛陽，這一百多口才能安全，所以在楊玄感看來，先打洛陽才是上策。
人和人是有差距的，楊玄感和李密相比，就是雞和鷹的區別。但凡起義，必定置之死地而後生，一切戰略都要以軍事利益為第一位，一旦造反，就沒有退路，而楊玄感恰恰相反，先考慮的不是軍事利益，而是全家老小的退路，所以他的起義註定走不遠，就如同一隻家養的雞註定飛不過庭院的圍牆。