隋朝的建立雖然是楊堅搞宮廷政變、欺負孤兒寡婦的成果，但是，它也是中原地區近三百年民族融合的產物，是一個新時代的開端。
楊堅上台伊始，做了三件大事，非常引人矚目。
第一件大事是改革中央官制，確立三省六部制。這可是對北周官制的一個重大改變。
北周中央官制的核心是什麼？六官制。這六官分別是大冢宰，也就是天官；大司徒，也就是地官；大宗伯，又叫春官；大司馬，又叫夏官；大司寇，又叫秋官；大司空，又叫冬官。六官分別掌管各類行政事務，而由大冢宰統領。這都是宇文泰當西魏權臣的時候制定的制度，後來一直沿用到北周。
西魏之所以實行六官制，有兩個原因。
第一，尋找政治合法性。當初西魏剛剛建立的時候，真是處處不如人。在軍事實力上遠不及東邊的東魏，在文化上更比不過以漢文化正統自居的南朝。
怎樣來維持這種東、西、南三足鼎立的局面？宇文泰一方面加強軍事力量，另一方面則打出了文化復古的旗號，利用自己地處關中的地緣優勢，宣稱自己是西周的嫡系繼承者。
怎麼表現自己是西周的繼承者？根據《周禮》的記載，西周的制度就是天、地、春、夏、秋、冬六官，那西魏也就實行六官制度，這叫繼承西周政治傳統。中國人好古，又愛家鄉，宇文泰拉起這麼一面立足關中地區、追隨西周古制的大旗，既團結了關中地區的漢人，也給自己找到了立足中原的政治合法性，一舉兩得。
第二，突出宇文泰的專權地位。六官制度中，大冢宰統領其他五官，居於主導地位，而宇文泰就擔任大冢宰。這就給他把持西魏朝政提供了制度依據，有利於宇文泰專權。這兩點對西魏政權的成長都非常有利，所以，六官制度也就一直沿用下來，到北周還繼續使用。
但是，事物總是向前發展的，再好的制度總有時效性。六官制度也越來越顯現出不利的一面。
首先，六官制度畢竟是西周制度，而西周距離當時已經有一千多年的歷史，用一千多年前的制度去規範一千多年後的生活，難免會顯得格格不入。怎麼辦？只能是對制度進行斷章取義的改造，以適應現實政治需要。
所以，宇文泰就把好多適應鮮卑社會的制度塞進了六官制里。古代的制度外殼再加上少數民族的一些政治原則，這就更四不像了。史學大師陳寅恪曾說：這是「虛飾周官舊文以適鮮卑野俗，非驢非馬」，肯定不能維持長久。
其次，當初宇文泰制定這套制度，是為了方便他當權臣。可是後來，無論是宇文泰的子孫篡了西魏，建立北周，還是北周的權臣楊堅篡權建立隋朝，當然都希望維護君主集權，不能容忍權臣再度出現。這樣一來，以大冢宰為核心的六官制度就顯得非常討厭。
如果仍然是東、西、南三家鼎立，鮮卑人當皇帝也就罷了，再不方便，也不敢輕易丟掉這面大旗。可是，現在既然中原地區已經統一，而且新皇帝楊堅還是個漢人，那麼，爭奪文化正統性，收服關中民心就顯得不那麼重要了。在這種情況下，楊堅決定，廢除六官制度，實行漢魏官制！
不過，這個所謂的漢魏官制，既不是漢朝的制度，也不是曹魏的制度，而是把南北朝時期經過歷代政權改革的中央官制整合起來，形成的一套新官制。
這個新官制什麼樣子？按照《資治通鑒》的記載，開皇元年（581），隋文帝「置三師、三公及尚書、門下、內史、秘書、內侍五省，御史、都水二台，太常等十一寺，左右衛等十二府，以分司統職」。
這段記載涉及內容很多，其中，核心就是後來為人所熟知的三省六部制。
所謂三省，就是尚書、門下、內史三省。其中，內史省負責起草詔令，長官叫內史令；門下省負責審核詔令，長官叫納言；而尚書省則負責執行，長官叫尚書令。當然，因為尚書令位高權重，一般情況下都空缺，所以，實際的領導就是尚書省的副長官，左右僕射。
所謂六部，則是尚書省下設的吏、禮、兵、都官、度支和工部六個行政部門。從三省的職能分工不難看出，門下省和內史省是最高權力機構，類似於如今的全國人大；而尚書省則是最高行政機構，類似於如今的國務院。六部則類似於國務院各部委。三省之間互相配合，共同構成了國家最主要的部門，而中國古代最重要的官職宰相則由三省長官共同擔任。
這可是中國宰相制度的一大變化。要知道，中國宰相制度的發展，從大的方面說，一共分為三個階段。第一個階段是秦漢時期的三公九卿制；第二個階段則是隋唐時期的三省六部制；第三個階段是明清時期廢除宰相，實行內閣或者是軍機處的替代體制。
那麼，三省六部制和三公九卿制相比，有什麼不同？有三個特點值得注意。
第一，宰相由具體的個人變成了機構負責人。在原來的三公體制之下，太尉、司徒、司空這三公是宰相。皇帝先任命他們做宰相，再讓他們組建丞相府，管理全國政事。這樣一來，就是先有宰相個人，再有宰相機構。在這種情況下，宰相真是名副其實的一人之下，萬人之上，當然氣焰熏天，經常和皇帝發生衝突。最典型的就是漢武帝時期，田蚡當宰相，不停地安插親信。武帝看了當然惱火，問他：「君除吏已盡未？吾亦欲除吏。」你任命官員任命夠了嗎？我也想任命幾個自己人當官，行不行啊？可見君相衝突有多嚴重。
為了對抗宰相，皇帝只好不斷發展內廷勢力，提拔身邊人。三省的長官，尚書令也好，納言也好，內史令也好，最初都是皇帝身邊的隨從。可是，到三省體制之下就不一樣了。三省長官共同構成宰相集團，這就意味著，先有宰相機構，再有宰相個人。這樣一來，突出的就不是宰相個人，而是整個宰相機構的權力。
把對個人的依賴轉變為對機構的依賴，這有助於防止宰相專權。
第二，三省制還意味著決策和行政的分離。在三省體制之下，內史省和門下省是最高決策部門，主管詔令的起草和出台，但是不管執行；而尚書省是最高行政部門，主管詔令的執行，但是不管決策。這種決策權和行政權的分離，其實也是在分割宰相權力，同樣有助於提高皇權。
第三，三省制還意味著決策的程序分工。任何一個詔令，都是在皇帝的領導下，經過宰相，也就是三省長官的集思廣益而成。而且，在宰相形成基本意見後，還需要經過內史省起草、門下省審核和尚書省執行這三個步驟才能真正生效，這種程序分工其實就意味著決策的審慎化。這當然可以最大限度地避免拍腦門決定，也就減少了行政失誤。
把這三個特點綜合起來看，就會發現，三省六部制貫徹的是君主集權、宰相分權以及行政理性化這樣一些基本原則，符合中國社會的發展方向，所以生命力特別旺盛，影響力一直到清朝，真可以說是為萬世法了。