五八一年，楊堅建立隋朝。隋朝的建立雖然是楊堅謀劃宮廷政變，欺負孤兒寡母的成果，但是，它也是中原地區三百年民族融合的產物，是一個新時代的開端。那麼，楊堅上台伊始，有哪些新的舉措呢？楊堅做了三件大事，非常引人矚目。
第一件大事是改革中央官制，確立三省六部制。這是對北周官制的重大改變。
北周中央官制的核心是六官制。六官分別是大冢宰，也就是天官；大司徒，也就是地官；大宗伯，又叫春官；大司馬，又叫夏官；大司寇，又叫秋官；大司空，又叫冬官。分別掌管各類行政事務，由大冢宰統領。這是宇文泰當西魏權臣時制定的制度，後來一直沿用到北周。
西魏為什麼實行六官制呢？有兩個原因：
第一、尋找政治合法性。當初西魏剛建立時，處處不如人，不僅在軍事實力上遠不及東邊的東魏，在文化上也比不過以漢文化正統自居的南朝。如何維持東西南三足鼎立的局面呢？宇文泰一方面加強軍事力量、一方面則打出文化復古的旗號，利用地處關中的地緣優勢，宣稱自己是西周的嫡系繼承者。要知道，在古代中國人心目中，西周的地位是非常神聖的，現在，宇文泰表態說，我就是要繼承西周。那麼如何才能表現明自己是西周的繼承者？
根據《周禮》的記載，西周的制度就是天、地、春、夏、秋、冬六官，西魏便實行六官制度，繼承西周政治傳統。中國人好古，又愛家鄉，宇文泰拉起這麼一面立足關中地區、追隨西周古制的大旗，既團結了關中地區的漢人，也給自己找到立足中原的政治合法性，豈不是一舉兩得。
第二個原因，突出宇文泰的專權地位。六官制度中，大冢宰（即天官）統領其他五官，居於主導地位，而宇文泰擔任大冢宰。給予他把持西魏朝政的制度依據，有利於宇文泰專權。這兩點對西魏的成長都非常有利，所以，六官制度一直沿用下來，到北周仍繼續使用。
但是，事物總是向前發展，再好的制度總有時效性。隨著時間推移，六官制度愈來愈顯示出不利的一面。
首先，六官制度畢竟是西周制度，而西周距離當時已有一千多年的歷史，用一千多年前的制度規範一千多年後的生活，難免格格不入。制度和現實生活不匹配，怎麼辦呢？不能改造生活，只能對制度進行斷章取義的改造，以適應現實政治需要。所以，宇文泰便把好多適應鮮卑人情況的制度因素塞進六官制里。一個中國遠古時代的制度外殼，再加上一些少數民族的政治原則，成了四不像！所以，史學大師陳寅格有個很刻薄的評價，他說：「虛飾周官舊文以適鮮卑野俗，非驢非馬。」肯定不能維持長久。
其次，當初宇文泰制定這套制度，是為了方便他當權臣。可是後來，無論是宇文泰的子孫篡西魏建立北周，還是北周的權臣楊堅篡權建立隋朝，當然都希望維護君主集權，不能容忍權臣再度出現。這樣一來，以大冢宰為核心的六官制度顯得非常討厭。怎麼辦呢？如果仍然是東、西、南三家鼎力，鮮卑人當皇帝也就罷了，再不方便也不敢輕易丟掉這面大旗。可是，既然中原地區已經統一，而且新皇帝楊堅還是個漢人，那麼，爭奪文化正統性，收服關中民心就顯得不那麼重要。
在這種情況下，楊堅決定廢除六官制度，實行漢魏官制！