唐承隋制，中央實行三省六部制。三省為中書省、門下省和尚書省。中書省正副長官是中書令和侍郎，下設中書舍人，負責起草詔制。門下省正副長官是侍中和侍郎，下設給事中，負責審核中書省起草的詔旨，駁正違失，並審批尚書省的奏鈔。尚書省正副長官是尚書令和左右僕射，下設左右丞，該省統轄吏、戶、禮、兵、刑、工六部，負責貫徹執行中央擬定的政令。因唐太宗李世民即位前曾任尚書令，後臣下避居該職，形同虛設，故左右僕射實際上成為尚書省的最高長官。唐初，三省的最高長官都是宰相。
當時在門下省還設政事堂，為三省宰相共議軍國大事的場所。後來，凡參加政事堂會議的官員都是宰相，他們均加有「參知機務」「參知政事」等頭銜，再後來逐漸確定為「同中書門下三品」或「同中書門下平章事」，如此，增加了宰相人數，避免一兩個宰相專權，防止出現西漢初年相權太重、君權反而被架空的前車之鑒，且可以集思廣益，聽取更多意見。
國家動亂依賴於良將平定，國家安定依賴於賢相治理，這是封建帝王治理國家最經典的理論。「宰相，國之名器」，是輔佐皇帝、總領百官處理國家大事的最重要職位，作為大唐的中樞，對政局發展具有舉足輕重的作用。唐太宗時，特置參議得失、參知政事、參預朝政、同中書門下平章事、同中書門下三品等名號，職務都是宰相。唐高宗以後，侍中和尚書、中書、門下三省的長官都是宰相。其他官員官職加上同中書門下三品的職銜，便也是宰相。四品官員以下，只要加平章事名號，也列入宰相之列，共同參議國政，只是權柄要輕一些。這套制度終唐之世不改。
宰相職能既如此重要，因而國家政治好壞、經濟發展快慢，往往取決於宰相是否得人。唐太宗任用房玄齡、杜如晦，唐玄宗則選用姚崇、宋璟，這四人並稱四大賢相，對成就舉世聞名的「貞觀之治」及「開元盛世」功不可沒。因為「安史之亂」是唐代最重大的事件，此處重點談唐玄宗一朝的宰相。
唐玄宗任用姚崇和宋璟後，天下大治。姚崇和宋璟代表了一個時代。這個時代，一切都是為了皇權的鞏固，沒有任何勞民傷財的行動。正如白居易詩中所言：「君不聞，開元宰相宋開府，不賞邊功防黷武。」
這二人無愧於名相的稱號，不但才華出眾，而且政績斐然——「姚崇、宋璟、蘇頲等皆以骨鯁大臣，鎮以清靜。朝有著定，下無覬覦。四夷來寇，驅之而已；百姓富饒，稅之而已」。
至姚崇和宋璟罷相，則標誌著一個時代的結束。此時，天下已經大治，大唐都城長安生機勃勃，商賈雲集，人來人往，熙熙攘攘，各色人等，神采飛揚。需要剋制的時代結束了。因為時代已經是一個傳奇而輝煌的時代，海內晏然，天下太平。天下人為生在盛唐而自豪，唐玄宗也為此而驕傲。
之後的張嘉貞、張說、韓休、張九齡等宰相均不再有姚崇或宋璟的那種銳意進取的精神，但諸人也很好地行使了守成的職責。只是皇帝已不再是當年的皇帝，「治安則驕侈易生，驕侈則危亡立至」，這句話很好地應驗在唐玄宗身上。唐玄宗已經沒有當年的孜孜求治之心，驕侈享樂佔據了他全部的思想，這個變化明顯地應驗在大唐宰相的人選上。
張九齡入相時，唐朝正處在全盛時期，卻又隱伏著種種社會危機。張九齡針對社會弊端，提出以「王道」替代「霸道」的從政之道，強調保民育人，反對窮兵黷武；主張省刑罰，薄征徭，扶持農桑；堅持革新吏治，選賢擇能，以德才兼備之士任為地方官吏。他的施政方針緩解了社會矛盾，對維護開元盛世起了重要的作用。就在張九齡要放手有更大作為之時，李林甫正積極謀求宰相之位。
李林甫，小字哥奴，唐宗室子弟，唐朝初年長平肅王叔良的曾孫。論起輩分，他比唐玄宗還要高出一輩，不過因為血緣關係疏遠，到了李林甫這裡，已經沒有世襲的爵位。宗室血統絲毫沒有給他帶來輝煌，李林甫能夠步入仕途，還要感謝他的舅舅姜皎。
姜皎在唐玄宗為藩王時即誠心結交，唐玄宗登基後，姜皎被授秘書監，恩寵無比。後宮宮殿之前種有一棵珍貴的果樹，唐玄宗經常在其葉繁花盛之時前去玩賞。有一天，姜皎嘆息道：「真乃嘉樹也。」唐玄宗聽後，立即笑容滿面地說道：「卿既愛此樹，那就植入府中玩賞去吧！」將這棵無比珍貴的果樹賞給了姜皎。
姜皎先後接受唐玄宗的賞賜有馬匹、珍玩，不可勝數。李林甫因為舅舅所喜愛，一直養在姜府，他從小就看到了權勢的魅力，對權力充滿了無限的憧憬。當時宰相源乾曜執政，與姜皎聯姻。李林甫趁機巴結源乾曜的兒子源絮，通過源絮走後門，代求司門郎中一職。源乾曜卻不大看得起李林甫，認為：「郎中之職需才德俱佳者為之，哥奴一無賴爾，豈能擔當此任？」
李林甫謀官一事大受挫折，不僅是因為源乾曜為人清廉正直，還與當時的體制和歷史背景大有關係。當時政治清明，李隆基十分注意整頓吏治，裁減了許多冗官，改變了濫封爵位的惡習，對官員的任用看重才識。開元二年（714年）還規定，選擇京官中有才識的，到地方任都督、刺史；在地方任職的都督、刺史如有政績，則調到京城任京官。改變了歷朝歷代重京官，輕外任的惡習。唐玄宗還在殿廷之上親自對新任命的縣令進行考試，對其中不合格的四十五人當堂罷免，並把主持選官的兩個官員予以貶職。在這樣的風氣下，李林甫遭受挫折就並非偶然了。
李林甫受此打擊，但並沒有停止他的鑽營，而是暗中蟄伏，靜待時日。幾年之後，他被提拔為國子司業，官品從四品下，為國學中的行政事務官。開元十四年（726年），在御史中丞宇文融的提攜之下，官至刑部侍郎，有了生殺大權。接著升遷至吏部侍郎。吏部侍郎官品為正四品上，專門掌管官吏的任免，很有實權。
史載李林甫給人的印象是平易近人，和顏悅色，但卻「陰中傷之，不露辭色」。時人認為他精通權術，已經玩到了登峰造極的地步，不僅一般人為之心驚，即便老奸巨猾者也望而生畏。尤其是他在外表上裝得對人極為友善，暗中卻加以中傷竟然一點也不露聲色，世人謂其「口有蜜，腹有劍」，此即「口蜜腹劍」成語的來歷。
李林甫鑽進吏部後，唐玄宗兄長寧王李憲曾私下求見李林甫，拿出十個人的名單，要他優先考慮選補這些人入官。李林甫不問優劣，一口答應下來，只對寧王提出一條要求：「願絀一人以示公平。」
發榜之日，李林甫特意選出一人，張榜宣布：此人作風不正，托王講情，留待下次冬選。
這樣一來，李林甫不但贏得了「公正」的美譽，而且趁勢巴結了寧王李憲，可謂是一箭雙鵰。
當時武惠妃（武則天侄孫女）寵傾後宮，企圖立自己的兒子壽王李瑁（楊貴妃楊玉環前夫）為太子。李林甫探知內情，通過宦官向武惠妃表露：「願護壽王為萬歲計。」兩位野心勃勃者走到了一起，李林甫也很好地把握了歷史的契機。之後，武惠妃常在李隆基面前讚揚李林甫，李隆基由此對李林甫印象很深，為他以後當上宰相打下了基礎。
開元二十一年（733年），宰相裴光庭死。李林甫立即通過侍中裴光庭夫人出面，謀求相位。裴夫人為武三思之女，武三思曾經對宦官高力士有恩。野史記載說裴夫人與李林甫有染，裴夫人在高力士面前為李林甫苦苦哀求。高力士當時權傾朝野，對舊主人不好一口拒絕。不過，高力士為人謹慎，選相又是大事，他不敢輕易向唐玄宗提起，只是暗中等待機會。
不久，唐玄宗決定任用韓休為相。高力士立即把消息告訴了裴夫人。李林甫知道後，馬上向唐玄宗上奏，推薦韓休為相。韓休當上宰相後，聽說是李林甫舉薦他，異常感激，於是向唐玄宗推薦：「吏部侍郎李林甫為宗室之後，才德兼備，且有宰相之才！」
武惠妃經常在唐玄宗那裡吹耳邊風，唐玄宗對李林甫印象很好，現在又有新宰相推薦，於是任命李林甫為黃門侍郎，隨後便升為禮部尚書、同中書門下三品，再進兵部尚書。
歷史就這樣開了一個不大不小的玩笑，李林甫空手套白狼，竟然真的入閣拜相了。夢想實現得如此輕易，這讓李林甫又瞄上了宰相中位置最高的首輔之位。
當時執政宰相正是張九齡和裴耀卿。張九齡知道唐玄宗準備任命李林甫為相時，直諫勸阻說：「陛下今日若以李林甫為相，他日恐怕國無寧日了！」
此時唐玄宗在位已久，沉迷於武惠妃的溫柔鄉，不免怠於政事。然而，每當商議政事時，張九齡和裴耀卿兩位宰相事無巨細，都要與唐玄宗據理力爭，這讓唐玄宗相當不快，不過也不好表露什麼，但對待張九齡和裴耀卿的建議就不那麼聽得進去了，依舊堅持任命了李林甫。天子對待肱股重臣微妙的情緒變化被李林甫捕捉到了，他一面巧伺上意，一面開始尋找機會排擠張、裴二相。
每次上朝時，張九齡，裴耀卿兩位宰相對李林甫稍稍謙讓，李林甫