大業十三年（617），就在李密率領瓦崗軍和隋軍主力苦戰的時候，有一股力量從太原崛起，迅速地改變了整個隋末局面。這股勢力，是一支出自隋朝統治集團內部的造反力量，它的領導者名叫李淵。
李淵是八大柱國之一李虎之後，關隴貴族集團的重要成員，封爵唐國公。他跟隋煬帝還是親戚，李淵的母親和隋煬帝的母親是親姐妹，兩人都是北周重臣獨孤信的女兒，李淵比隋煬帝年長兩歲，私底下，隋煬帝應該管李淵叫表哥。
正因為這樣的出身、這樣的關係，隋煬帝在第三次下江都之前，拜李淵為右驍衛將軍，太原留守，主持山西地區的軍政大局，這可意味著很大的信任。可是，就是這個李淵，居然在大業十三年（617）七月揭竿而起了！
農民軍反對隋煬帝可以理解，那是官逼民反，李淵既親且貴，為什麼也要造反？
關於李淵起兵，有一個傳統說法是，他本人並不特別想造反，都是被他兒子李世民攛掇的。李世民就是後來的唐太宗，當時還只是一個不到二十歲的少年，在李淵的兒子里排行老二。別看年紀輕，但人非常英勇。《資治通鑒》中的說法是：「聰明勇決，識量過人，見隋室方亂，陰有安天下之志。」此人非常聰明，勇敢果斷，而且非常有見識。眼看著隋朝大廈將傾，而自己的爸爸李淵擔任太原留守，手握精兵，李世民就產生了奪取天下的想法。
怎樣才能奪取天下？按照《舊唐書》《新唐書》和《資治通鑒》的說法，他背著李淵，偷偷開展了如下活動。
第一是結交謀士。當時有個人叫劉文靜，本來擔任晉陽（今山西太原）令，是個有抱負的人。因為和瓦崗軍的領袖李密是姻親，受到牽連，被關進了太原監獄。這樣的人，一般人都會躲著走，可李世民偏偏到監獄裡去探望他。
劉文靜平時就對李世民青眼相加，此時更為感動，推心置腹道：「天下大亂，非高、光之才，不能定也。」現在天下大亂了，只有像漢高祖或東漢光武帝那樣的人才，才能夠挽救這個局面。
李世民當即回應：「安知其無，但人不識耳。我來相省，非兒女子之情，欲與君議大事也。計將安出？」你怎麼知道現在沒有？只不過別人還沒看出來罷了。言下之意，我就是漢高祖、光武帝那樣的人才。而且我現在到監獄來探望你，也不僅僅是出於一般的友情，我是想來跟你謀劃天下大事的。你說說，心裡有什麼打算？
劉文靜說：「今主上南巡江、淮，李密圍逼東都，群盜殆以萬數。當此之際，有真主驅駕而用之，取天下如反掌耳。太原百姓皆避盜入城，文靜為令數年，知其豪傑，一旦收集，可得十萬人，尊公所將之兵復且數萬，一言出口，誰敢不從！以此乘虛入關，號令天下，不過半年，帝業成矣。」大意是說，如今隋煬帝南巡江淮，不回來了，而李密又包圍了東都洛陽。其他的群盜數以萬計，真是天下大亂。在這樣的背景下，如果有一個英雄，振臂一呼，肯定會應者雲集。在我們太原地面上，就應該產生這樣一位英雄。為什麼？現在太原城裡，有十萬人都是避賊入城的避難之人。我在這裡當了幾年的縣令，深知此地臨近少數民族地區，民風勁悍，一旦將這些人召集起來，那就不是十萬難民了，而是十萬雄兵。而且，你父親唐國公李淵手裡本來就有幾萬軍人，如果把這兩股勢力——難民的勢力和軍隊的勢力結合到一起，然後乘虛進入關中地區，那麼不出半年，天下就可以平定。
劉文靜從形勢分析到實力分析，再到作戰的方向把握，應有盡有，給李世民提出了一整套奪取天下的解決方案。
李世民一聽大喜，說：「君言正合我意。」這樣一來，劉文靜也就成了李世民的一個謀士。
第二是結交將領。當時有三個皇帝的侍衛武官，一個叫長孫順德，一個叫劉弘基，還有一個叫竇琮，都因為逃避遼東之役，到太原來政治避難。既然要造反，就得有帶兵的將軍。李世民覺得這幾個人素質不錯，就傾心和他們結交。這些人本來都是戴罪之身，算是在人屋檐下討生活，現在居然得到唐國公二公子李世民的禮遇，心裡當然感激，很快也就都成了他的死黨。
謀臣和武將都有了，等於造反班底搭起來了，現在只差一個最關鍵的人物——李淵。太原畢竟是李淵的天下，如果李淵不同意造反，李世民再折騰也是白搭。
李淵是什麼樣的人？按照傳統史書中的記載，李淵是個胸無大志的人，每天就知道醇酒、美人，而且年紀也五十多歲了，在古代已經算步入晚年，意志比較消沉，不想冒風險。
怎麼能讓他振作起來呢？謀士劉文靜給李世民出了一個主意。劉文靜說，李淵最喜歡晉陽宮監裴寂，每天跟裴寂一塊兒喝酒，總有說不完的話。請裴寂勸他，他沒準兒容易聽進去。問題是，怎樣才能說服裴寂，讓他甘當李世民的說客呢？裴寂愛錢，李世民就拿出幾百萬私房錢，派自己的一個手下和裴寂賭博。賭博的結果不用說，自然是李世民的錢全部進了裴寂的口袋，然後再告訴裴寂，這都是李淵的二公子李世民奉獻給他的。
這是不是很像當年楊廣收買楊素的故技？非常神似。而且結果也和當年一樣，裴寂見錢眼開，也就答應幫助李世民遊說李淵了。
正好在這個時候，李淵這邊又出了一個新情況，一下子讓遊說工作變得容易了。
當時隋朝已經跟突厥關係破裂，突厥經常性地騷擾北邊，這一次，甚至一直打到了馬邑（今山西朔州）。這可是李淵的職權範圍，李淵派副留守和馬邑太守王仁恭一起迎敵，結果卻打輸了。
打輸了會有什麼後果？別看隋煬帝自己打高句麗也打不贏，但處理敗軍之將還是非常嚴厲的，所以，李淵心裡沒底，非常惶恐。看到這種情況，李世民就悄悄地對李淵說：「今主上無道，百姓困窮，晉陽城外皆為戰場。大人若守小節，下有寇盜，上有嚴刑，危亡無日。不若順民心，興義兵，轉禍為福，此天授之時也。」當今皇帝無道，百姓深受其苦，晉陽城外幾乎沒有太平的地方。大人，您現在處境多狼狽！外面有盜賊作亂，上邊還有皇帝的嚴刑威逼，您這次又打了敗仗，還不知道皇帝會給您什麼處罰，與其在這兒坐著等死，還不如順應天意民心，興兵造反。這才是真正的轉禍為福啊！
兒子勸反，李淵什麼反應？據記載，李淵大驚失色，厲聲說：「汝安得為此言，吾今執汝以告縣官！」你怎麼敢說這樣的話！我馬上就去告發你！說著就要拿紙拿筆。
李世民當下不急不火，神色從容，繼續勸諫：「世民觀天時人事如此，故敢發言；必欲執告，不敢辭死！」我也是綜合考慮了天時人事，才跟您說這番話，如果您一定要告發我，我不敢不死！
李淵怎麼可能真的去告自己的兒子呢？他長嘆一聲，罷了。
第二天，李世民恭恭敬敬，又來遊說李淵了。他說：「今盜賊日繁，遍於天下，大人受詔討賊，賊可盡乎？要之，終不免罪。且世人皆傳李氏當應圖讖，故李金才無罪，一朝族滅。大人設能盡賊，則功高不賞，身益危矣！」就算這次兵敗突厥，皇帝不處罰您，您也要想想自己的處境。您來太原，是肩負著討伐盜賊的任務。可如今盜賊遍天下，您能討伐得盡嗎？討伐不盡，終究免不了一死。要是萬一成功，就更麻煩了。最近天下都傳「當有李氏應為天子」，皇帝也很忌諱。李金才什麼罪都沒有，居然就被滅族。如果您真的把盜賊討伐盡了，到時候功高不賞，皇帝豈不是更加猜忌！那咱們一家，還能活著嗎？您好好考慮一下我昨天的意見吧。
李淵聽罷，嘆息一聲說：「吾一夕思汝言，亦大有理。今日破家亡軀亦由汝，化家為國亦由汝矣！」我一夜都在考慮你的話，你說得很有道理。你就折騰去吧，以後若是把我們搞得家破人亡，那是你的罪過；若是你真能化家為國，那也是你的功勞。這算是默認了李世民的做法。
正在這時候，又發生了一件事，更加堅定了李淵的決心。
李淵自從迎戰突厥失敗之後，整天惴惴不安，不知道皇帝會怎麼處罰他。這時候，隋煬帝的處置終於下來了，他派了一個使者到太原來，要把李淵和王仁恭押送到江都！
到江都之後，會是什麼結局？最大的可能就是殺頭。就算不殺頭，恐怕也要降級使用，沒準兒就留在江都幫隋煬帝鎮壓起義軍了。這就等於是背井離鄉，任人宰割。李淵才不願意主動送死，所以，一看見這個處罰，他的心都涼了。
趁這個時機，李世民趕緊再勸，說：「今主昏國亂，盡忠無益。偏裨失律，而罪及明公。事已迫矣，宜早定計。且晉陽士馬精強，宮監蓄積巨萬，以茲舉事，何患無成！代王幼沖，關中豪傑並起，未知所附，公若鼓行而西，撫而有之，如探囊中之物耳。奈何受單使之囚，坐取夷滅乎！」如今主上昏庸，國家動蕩，為這樣的君主和國家盡忠是沒有意義的。明明是您手底下的人打了敗仗，卻要讓您去頂罪，這不是濫罰無辜嗎？現在馬上要把您押到江都去了，形勢緊急，希望您早定大計