宰相之為帝王的輔佐，其淵源是很久遠的，也可以說自從有了帝王以來，就有了地位僅次於帝王的宰相。
這一制度，歷來便都為論者所肯定。每當說到太賓士世，總是以明君善於擇相、賢相能竭誠事君，作為主要因素。很多相處得較為和美的君相之間，彼此也常以融合無間、如魚得水，相互讚譽。粗粗見來，似乎君相之間總是以和衷共濟、同心協力才是正道。但歷觀史籍、揆諸實際，卻又不然。自殷周以來，便是君相合力共治之局，其間帝王掌握著最高權力，處理實際的政務則較宰相為少；宰相掌握著次高權力，而處理實際的政務卻較帝王為多，彼此互為消長，彼此意見相合時固然常有，而彼此相異時卻也時見。相合自然無話可說，相異則不免要相互讓步，或竟發生衝突。伊尹放太甲，成王疑周公，便是極早的例證。自此而後，君相之間的鬥爭就沒有斷過，只不過是衝突的緩和與激烈各不相同而已。這其間，霍光、曹操、司馬氏父子和桓溫等人，都是以相權壓倒了帝權的突出人物。
君相之間雖說不斷有些爭持，但從權位上來說，優勢自然總是在帝王一方面的時候為多。而且每逢改朝換代，君相之間的權勢總要有些變化，這變化的趨勢則是帝權不斷上升，相權則不斷下降，因為每個開國之君為了保全他的基業，總要除掉一些前朝制度中對帝王起到約束作用的條文，而添上一些擴大王權的條文。歷代繼續這樣修改，帝權與相權之間的距離也就越來越大。這樣，到了明初，帝權和相權之間相距便已絕遠，但明太祖朱元璋還是覺得宰相的權力對他的帝業終究是個威脅，最後終於把這個行之已久的宰相制給廢除了。
廢除了宰相制，君權越發增重了，君主專政，至此已發展到了頂端。這對於帝室的穩固自然是有利的，在有明一代的一十六帝中，於童年間便即位為帝的很有幾個，另外又還有些倦於理事的人，多年避居深宮，很少臨朝問政。然而即便如此，帝權還是很鞏固的，並沒有出現過權傾一朝、足以代立的人物，其最主要的原因當然應該說是取消了宰相制的緣故。不過，也正由於居安無危，明代諸帝，除去建國初期的所謂二祖以外，都極缺乏歷練，只有宣宗、孝宗，稍為後世加以稱許，其餘都不過是些碌碌無為的人，坐視國是日非而振作乏術，終至內外交困，以至於亡。這又是一心只為增重帝權而殫精竭慮的人所沒能想到的。
明太祖朱元璋之終於廢除了宰相制，是在他建國為帝後，為了鞏固帝權，經過多年的思慮和謀劃，最後才毅然決定的。最初，他對設立宰相輔佐國政的制度，也是一如前代，並無一點疑慮。早在他建立大明帝國之前，還是稱為吳國的時候，便已經設立起了宰相的職位了。從吳至明，宰相都稱為丞相，共有左、右二員。那時位居左丞相的是李善長，位居右丞相的則是徐達。朱元璋建立了大明帝國，即位為帝以後分任左、右丞相的還是李善長和徐達兩人。那時丞相的任所稱為中書省，丞相之下設有左丞、右丞、參知政事等職稱的屬員。徐達在中書省為右丞相的時間並不久，只有兩年略多些，後來便因要率領軍隊出征而離開了那裡。李善長在徐達離去不久，也因病致仕（即退休）家居。繼李、徐而任職丞相的，又有汪廣洋和胡惟庸兩人，汪是在李善長於洪武四年正月致仕之時即被任為右丞相，繼李而來掌管中書省的事務的。胡惟庸比汪廣洋的入相要晚兩年多，他是於洪武六年七月才被任為右丞相的。有明一代曾任職丞相的只有李善長、徐達、汪廣洋和胡惟庸四人，只從洪武元年到洪武十三年初，有過以左、右丞相為首的中書省；到洪武十三年，胡惟庸以謀叛被誅，中書省也隨之而被撤銷，此後丞相的官名和職所便都化為烏有了。
明太祖朱元璋是在即位為帝後才逐漸感到帝權和相權之間的衝突，幾經設法想要加以調整，但都並不令他滿意，最後才決意廢除這一制度的。從他們君相之間自開國以至最後李善長一家都被族誅，明太祖的不斷謀劃，事後看來，還是很顯然的。
徐達在相位的時間最短，他又是四個丞相之中唯一未被處決的人，所以在他和朱元璋的關係之間，有關宰相制的廢除的跡象並不多。可以略去不說。
首先要說的，應是朱元璋與李善長二人之間的變易。李善長是在朱元璋還是郭子興的部將之時，便與他在軍中共事的舊人，他們原是相交極厚，彼此非常相得的。李善長是個極有智計，料事多中，並且極有決斷，敢於任事的人。史家說他是，「少讀書，有智計，習法家言，策事多中」，很確切地道出了他的特點。正由於此，他在作為郭子興的一個部將的參謀之時便已極為有名，引起了郭子興的注意，郭曾很有意把李善長從朱元璋的幕中選拔出來，作為他自己帳中的參謀。那時的朱元璋對李善長正在倚信至殷，認為誰對他的幫助也趕不上李善長，如何捨得讓他被調走？但是郭子興的諭令他又不敢違抗，真是去既難捨，留又不能，陷入了極其為難的困境。同樣，李善長也不願離開朱元璋而另圖高就。一則是因為他在朱元璋這裡是居於首席謀士的地位，真可以說是言聽計從、心意互通；轉到郭子興那裡，會變成人微言輕，哪裡比得上這裡？其次，就是他後來常常誇說的，他早就看出朱元璋生有異稟，是個能成大事的人，所以他才樂意一直輔佐著他。李善長不愧是個「多智計」的人，他對郭子興的拔擢想出了很多辭謝的方法，通過多方說項，終於使得郭子興既不怪罪，又擺脫掉了他的選調，仍舊留在朱元璋的幕中。經過這樣一番周折，朱、李二人的情誼又更增進了一步，合作得更見盡善盡美了。
在天下未定之時，李善長和朱元璋二人之間，實在是日見親厚，有似如魚得水一般。這由於李善長確實很有才幹，而又勇於任事，多謀善斷，很多決不待時的事，他都能抓緊時機，不多和人商量，獨自及時便辦妥了。朱元璋得他這樣相助，真是事事都可放心，省卻無數麻煩。對於朱元璋來說，在他連年征戰，削平群雄，以迄建國之時，李善長確是一個兼具蕭何與張良二人之長的人物。在軍中，李善長是「為參謀，預機畫，主饋餉」，指揮作戰和組織供應，他都兼管到了。在建國之初，一切有關政、經等項的法規和制度，以及郊社宗廟等等的禮節和儀制，也都是由李善長親自加以制定，或者由他率領有關諸臣，一一加以制定的。明代建國之初，論起功來，無論就任何方面來說，李善長應為功臣之首，實在是眾口一詞，並無爭議的。朱元璋對於這一點也很明白，所以在最初封公的六人中，李善長是居於最先的地位（其他五人是：徐達、常遇春的兒子常茂、李文忠、馮勝和鄧愈），在為他封公的制詞中，明確地把他和漢初的蕭何為比，也正顯然表明了當時人們對他的一致的看法。
朱元璋和李善長的相離日遠，最後竟成為相互有敵意，是在建國之後才逐漸開始的，也就是帝權和相權之間的衝突日益加劇而引起來的。這也是情勢不同，利害各異，因而產生的必然結果。在逐鹿中原的軍中，敢於任事，當機獨斷，原是極可讚許的長處；而在建國之後，則不免被目為獨斷專行，為已登大位的皇帝視為不能忍受的行為了。這種情況，可以說是，自古以來無代無之，所謂「共患難易，共富貴難」，便正說明了這個。范蠡在幫助越王勾踐打敗吳國之後便泛舟五湖；張良在輔佐劉邦平定天下之後便飄然遠引，從赤松子游。這些事之所以為歷代論者嘆賞稱許，便是由於他們能夠看清時勢的變易，而情況有異，能夠早自為計，潔身而退的緣故。李善長輔佐朱元璋建國，有類於范蠡和張良，但在功成身退上卻絕異於他們，而明太祖朱元璋的雄猜之處又絕不遜於勾踐和劉邦，甚且尤有過之，所以二人在建國之後，共富貴時，便難於搞得好了。
由於李善長沒能見到時勢有異，行事也應有所不同，所以他在洪武初年身為左丞相時，與他身在軍中作為謀主之時並無什麼改變，甚至專恣自用還更有過之。凡是讓他覺著看不順眼的人，或是有人冒犯了他，便即毫不寬貸，立即定下罪名，奏而黜之。在他，原不過是本著他的敢於任事，當機立斷慣例，照舊而行而已。但在已經身登帝位，成為開國之君的朱元璋看來，這樣的做法，卻是太過目中無人，竟然忘了還有他這麼個高居尊位的皇帝了。一次兩次，尚自猶可，次數一多起來，更覺忍無可忍。他對李善長的不滿，便是由此開始，對於相權感到應該有所限制，也是由此而產生了苗頭。但是，李善長的功高望重，他還是很清楚的，處置不當，會引起不少不良後果，他也非常明白。他雖十分不快，但還是隱忍著，等待有個適當的機會。到洪武四年（1371），這樣的機會恰好來了。那是恰好李善長患病在家，自覺多日未能前往中書省治事，心有未安，便上疏懇請致仕。他這樣做，無非是略以示意：一則是略示未能任事心有未安，二則也是藉此以為探試，看看皇帝對他究竟如何。這種手法，也是歷代大臣所慣用的。李善長認為，疏文遞上之後，皇帝溫諭慰留是肯定的，他想知道的，不過是慰留的詞句到底可以達到何種程度罷了。但是，