為什麼玄宗接受姚崇提出的「宰相權重，不可久任」的建議，實行了頻繁宰相輪換的制度，到了李林甫這裡卻因人而廢呢？這個李林甫，後世公認的庸相和姦相，到底有什麼本事，能霸居相位19年？
李林甫，小字哥奴，唐朝宗室子弟，唐朝初年長平肅王叔良的曾孫。論起輩分，他還比玄宗高出一輩。不過，因為血緣關係疏遠，到了李林甫這裡，已經沒有世襲的爵位了，宗室血統絲毫沒有給他帶來輝煌。李林甫能夠步入仕途，還是要感謝他的舅舅姜皎。姜皎在玄宗為藩王時即誠心結交，玄宗登基後，姜皎被授秘書監，恩寵無比。後宮宮殿之前種有一棵珍貴的果樹，玄宗經常在其葉繁花盛之時前去玩賞。有一天，姜皎嘆息道：「真乃嘉樹也。」玄宗聽後，立即笑容滿面地說道：「卿既愛此樹，那就植入府中玩賞去吧！」將這棵無比珍貴的果樹賞給了姜皎。姜皎先後接受玄宗的賞賜有馬匹、珍玩，不可勝數。李林甫因為舅舅所喜愛，一直養在姜府，他從小就看到了權勢的魅力，對權力充滿了無限的憧憬。
當時宰相源乾耀執政，與姜皎聯姻。李林甫趁機巴結源乾曜的兒子源絮，通過源絮走後門，代求司門郎中一職。源乾耀卻不大看得起李林甫，認為：「郎中之職需才德俱佳者為之，哥奴一無賴爾，豈能擔當此任？」
李林甫謀官一事大受挫折，不僅是因為源乾耀為人清廉正直，還與當時的體制和歷史背景大有關係。當時政治清明，玄宗十分注意整頓吏治，裁減了許多冗官，改變了濫封爵位的惡習。對官員的任用看重才識，在開元二年（714年）還規定，選擇京官中有才識的，到地方任都督、刺史；在地方任職的都督、刺史如有政績，則調到京城任京官。改變了歷朝歷代重京官，輕外任的惡習。玄宗還在殿廷之上親自對新任命的縣令進行考試，對其中不合格的45人當堂罷免，並把主持選官的兩個官員予以貶職。在這樣的風氣下，李林甫遭受挫折就並非偶然了。他只能暗中蟄伏，靜待時日。
李林甫受此打擊，並沒有停止他的鑽營。幾年之後，被提拔為國子司業，官品從四品下，為國學中的行政事務官。開元十四年（726年），在御史中丞宇文融的提攜之下，官至刑部侍郎，有了生殺大權。接著升遷至吏部侍郎。吏部侍郎官品為正四品上，專門掌管官吏的任免，很有實權。
史載李林甫給人的印象是平易近人，和顏悅色，但卻「陰中傷之，不露辭色」。時人認為他精通權術，已經玩到了登峰造極的地步，不僅一般人為之心驚，即便老奸巨猾者也望而生畏。尤其是他在外表上裝得對人極為友善，暗中卻加以中傷竟然一點也不露聲色，世人謂其「口有蜜，腹有劍」。這就是「口蜜腹劍」成語的來歷。
李林甫鑽進吏部後，玄宗皇帝的哥哥寧王李憲曾私下求見李林甫，拿出10個人名單，要他優先考慮選補這些人入官。李林甫不問優劣，一口答應下來，只對寧王提出一條要求：「願絀一人以示公平。」發榜之日，李林甫特意選出一人，張榜宣布：此人作風不正，托王講情，留待下次冬選。這樣一來，李林甫不但贏得了「公正」的美譽，而且趁勢巴結了寧王李憲。可謂是一箭雙鵰。像這樣的事情還有許多。
當時武惠妃寵傾後宮，企圖立自己的兒子壽王為太子。李林甫探知內情，通過宦官向武惠妃表露：「願護壽王為萬歲計。」（《新唐書·卷二百二十三·李林甫傳》）兩位野心勃勃者走到了一起，李林甫也很好地把握了歷史的契機。之後，武惠妃常在玄宗面前讚揚李林甫，玄宗由此對李林甫印象很深，為他以後當上宰相打下了基礎。
開元二十一年（733年），宰相裴光庭死。李林甫立即通過裴光庭的夫人出面，謀求相位。裴夫人是武三思的女兒，武三思曾經對高力士有恩。野史記載說裴夫人與李林甫有染，裴夫人在高力士面前為李林甫苦苦哀求。高力士當時權傾朝野，對舊主人不好一口拒絕。不過，高力士為人謹慎，選相又是大事，他不敢輕易向玄宗提起，只是暗中等待機會。不久，玄宗決定任用韓休為相。高力士立即把消息告訴了裴夫人。李林甫知道後，馬上向玄宗上奏，推薦韓休為相。
韓休當上宰相後，聽說是李林甫舉薦他，異常感激，於是向玄宗推薦：「吏部侍郎李林甫為宗室之後，才德兼備，且有宰相之才！」武惠妃經常在玄宗那裡吹耳邊風，玄宗對李林甫印象很好，現在又有新宰相推薦，於是任命李林甫為黃門侍郎，隨後便升為禮部尚書、同中書門下三品，再進兵部尚書。歷史就這樣開了一個不大不小的玩笑，李林甫空手套白狼，竟然真的入閣拜相了。夢想實現得如此輕易，這讓李林甫又瞄上了宰相中位置最高的首輔之位。
當時的宰相還有張九齡和裴耀卿。張九齡知道玄宗預備任命李林甫為相時，直諫勸阻說：「陛下今日若以李林甫為相，他日恐怕國無寧日了！」此時玄宗在位已久，沉迷於武惠妃的溫柔鄉，不免怠於政事。然而，每當商議政事時，張九齡和裴耀卿兩位宰相事無巨細，都要與玄宗據理力爭。這讓玄宗相當不快，不過也不好表露什麼，但對待張九齡和裴耀卿的建議就不那麼聽得進去了，依舊堅持任命了李林甫。天子對待肱股重臣微妙的情緒變化被李林甫捕捉到了，他一面巧伺上意，一面開始尋找機會排擠張、裴二相。
每次上朝時，張九齡，裴耀卿兩位宰相對李林甫稍稍謙讓，李林甫則居於中間，眉宇之間露出得意之色。時人看到這種場面，驚呼「一雕挾兩兔」，認為他們二人終究要遭李林甫的陷害。
朔方節度使牛仙客治軍很有政績。玄宗知曉後，欲以牛仙客為尚書，還準備給其封戶。張九齡聽說此事之後，與李林甫商議道：「封賞乃國之大事，只能給予名臣大功者。牛仙客，只是一邊將，不過工作做得好些，就能馬上封賞嗎？願與李大人在朝廷爭之！」李林甫一口答應下來。次日上朝，張九齡據理力爭。李林甫卻面無表情，一言不發。張九齡的固執激怒了玄宗，20多年的承平天下，天子已經聽不進任何逆耳的話語。大怒之下，玄宗罷朝而去。而李林甫卻趁機上奏說：「仙客有宰相之才，尚書之職乃大才小用，有什麼不可以的？九齡乃一文吏，過於囿於古義，有失大體；再者，天下者，陛下的天下，陛下用一官吏，有何不可？」玄宗見有大臣支持自己，大喜，就加封牛仙客為隴西縣公。並且誇讚李林甫為相而不專權。從此，玄宗便有意與張九齡疏遠了。
李林甫曾引薦蕭旻為戶部侍郎。蕭旻不學無術，有一次在與中書侍郎嚴挺之「同行慶弔」時，當眾錯讀一字。嚴挺之深感遺憾，就對張九齡發了幾句牢騷。張九齡凡事認真，便以不學無術彈劾蕭旻，貶為歧州刺史。李林甫由此怨恨嚴挺之，剛好有件事主動撞上門來。
嚴挺之曾經休妻，前妻後來改嫁給蔚州刺史王元琰。王元琰因貪贓下獄。前妻無奈之下，只好求嚴挺之相救。大概出於補償的心理，嚴挺之立即全力設法營救王元琰。李林甫使人奏告玄宗，說嚴挺之私袒王元琰，應該連坐。張九齡為嚴挺之辯解，認為其中不應會有私情存在。玄宗卻道：「卿不知，雖離之，亦卻有私。」皇帝這樣說了，張九齡不便再求情，只好請裴耀卿代救嚴挺之。李林甫卻乘機上言：「耀卿、九齡都是朋黨。」玄宗早已經有疏薄張九齡之意，樂得有個借口，於是藉此案將張、裴兩人罷相，貶嚴挺之為洛州刺史。
罷朝之後，李林甫目送遠去的二位老相，得意萬分，陰陽怪氣地問：「左右丞相何在？」一旁的諸位大臣聽見，無不心寒，且膽顫心驚。李林甫旋即升為中書令，終於成為群臣之首。
不久，李林甫協助武惠妃構陷太子李瑛。玄宗尚遲疑到底要如何處置太子，便召來宰相李林甫商議。李林甫只是輕描淡寫地說：「此乃陛下家事，臣等不宜介入。」李林甫做作的話，反而促使玄宗作出了決定。不久，便將太子瑛、鄂王瑤、光王琚廢為庶人並賜死。天下人為之痛心，號之為「三庶人」。然而，出人意料的是，武惠妃因數見三庶人的冤魂作祟，憂怖成疾，於當年死去。武惠妃的死，使得李林甫在廢太子李瑛事件上所立的大功頃刻化為烏有。為了自己的利益，他加緊促使玄宗立武惠妃之子壽王為太子。玄宗卻因為太子冤死而遲疑不決，寢食難安。高力士察知其難，進言說：「立嫡以長，誰敢言者！」終於促使玄宗下定決心立三子忠王李玙（後改名為李亨）為太子。李林甫錯失一著，但並未就此罷休，之後發生了多起構陷太子李亨的事件，將會在後面的篇章中論述。
再講幾個關於李林甫的有趣故事。
李林甫有6個女兒，他在客廳的牆壁上開了一個橫窗。每當有貴族子弟到他家來，他就讓6個女兒在窗內窺視，自由選婿。這既表現出一個封建家長的大度與寬容，也是與大唐盛世自由奔放的風氣一脈相通。
李林甫的表親中有人得了兒子。幼兒初生，照例要表示慶賀。《詩經·小雅》「斯干」有「乃生男子，載寢之床，載衣之裳，載弄之璋」；「乃生女子，載寢之地