公元581年，北周外戚楊堅奪得政權，建立了隋王朝，稱隋文帝，改元開皇，建都長安。楊堅曾在北周從政多年，親眼看見嚴刑酷法的弊病。他當皇帝後採納了刑部侍郎趙綽〔chao超〕提出的「行堯舜之道，多存寬宥」即實行輕刑恤罰的建議，定為立法的指導原則。
開皇元年，隋文帝適應時勢要求，繼承了「法令明審，科條簡要」的傳統，指派尚書左僕射高熲〔jiong窘〕、上柱國鄭譯等人制定了《開皇律》。《開皇律》刪去死罪81條，流罪154條，徒、杖等罪1000多條，留下500條，共12篇。《開皇律》是自秦以來歷代法律中比較輕簡的法律。唐朝及以後各朝的法律，在篇章體例上都沿用《開皇律》，它的影響是很深遠的。
《開皇律》的修成是中國古代法制史的重大轉折，它使古代法制定型化。表現在：
(1)篇目定型。起初《法經》六篇，後來《漢律》60篇，魏晉南北朝各代法律篇目或多或少，變動不定。到隋《開皇律》定為12篇後，為唐、宋、明各代所承襲沿用。
(2)刑名定型。秦律中的刑名繁雜，以後幾代發生變化，趨向簡化，到《開皇律》時定型在笞、杖、徒、流、死五種刑罰上，除遼代外，一直沿用到清代，基本沒有多大變化。
(3)確定「十惡大罪」的罪名，自唐至清一直沿襲未改。
(4)規定的「八議」、「官當」制度也為後世法制所仿效。
總之，《開皇律》起著承前啟後的重大作用，從此長達1200多年的時間裡，中國封建法制基本上定型化。隋文帝制定《開皇律》的成就是不可磨滅的。
隋文帝楊堅力主刑以輔德，甚至「以德代刑」，並把這些思想注入法律之中。在他即帝位之初，便下詔天下學禮，作為保證法律實施的一個前提。他除了強調用法律嚴厲鎮壓勞動人民的反抗外，還強調官吏守法執法，對違法失職的官吏，一經發現，一律依法論處。例如，晉州刺史、南陽郡公賈悉達和隰〔xi習〕州總管、撫寧郡公韓延等因犯賄賂罪被處死。他對王公貴族也要求極嚴。例如，上柱國劉旭的兒子居士倚仗其父的權勢，結夥成幫，為非作歹，侵凌百姓，被處以死刑。隋文帝對兒子犯法也不寬宥。他的三兒子秦王楊俊任并州總管期間，「好奢侈，違越制度，盛治宮室」。隋文帝楊堅知道後，依法論處，撤掉了兒子的官職。楊堅在執法方面的這種不避親貴，一斷以律的態度，是形成隋初社會穩定、經濟發展的一個主要原因。古書記載當時情景：「倉廩實，法令行。君子咸樂其生，小人各安其業。強無陵弱，眾不暴寡，人物殷阜，朝野歡娛。」(《隋書·高祖記下》)
隋文帝不僅制定較輕簡的法律，而且他統治時期的司法官吏比較重視法制。有兩件事能說明這一點。
刑部侍郎辛亶〔dan膽〕，好穿紅色短腳襪，他認為這樣能官運亨通。隋文帝則認為辛亶犯了「厭蠱」罪，下令斬首。刑部侍郎趙綽進諫說，根據《開皇律》規定，犯「厭蠱」罪不應當處死，臣不敢奉詔。隋文帝發怒說，「你惜辛亶的命，卻不惜自己的命！」並命令左僕射高熲去斬趙綽。趙綽又辯解說：「陛下寧可殺臣，不能殺辛亶。」說完就走下朝堂，解開衣服，等待斬首。隋文帝派人問他有無悔意，他回答說：「執法一心，不敢惜死。」隋文帝聽後覺得有道理，第二天嘉獎了他，賜給他綢緞300匹。
又有一次，有兩個人在市上用品質差的錢換好錢，巡察士兵逮捕上報，隋文帝下令殺兩個犯了錢法的人。趙綽進諫說：「依照法律這兩個人不應該處死，應當處杖刑。」隋文帝說：「這不關你的事。」趙綽說：「陛下把我安置在法司工作，現在要不依法處人死刑，怎能說不關臣的事？」隋文帝又說：「搖晃不動大樹的，應有自知之明，應當避開！」趙綽回答說：「臣希望感動天子的心，哪裡是什麼搖晃大樹！」隋文帝又說：「天子的威嚴，你打算加以挫傷嗎？」趙綽聽後，跪拜前行，皇帝叱責制止他，也不肯退下，於是皇帝入宮去了。後來，另外一位大臣又上奏章諫勸。隋文帝有感於趙綽的「誠直之心」，收回成命。後來，隋文帝常把趙綽召入內房賜坐，評論政事得失。
上述兩件事說明，刑部侍郎趙綽信守法制，「執法公允」，也說明隋文帝在開皇前期能夠納諫，重視法制，才使得《開皇律》發揮重要作用。隋文帝晚年「喜怒無常，過於殺戮」，自己帶頭破壞法制，違背了他前期的法律思想和《開皇律》的精神，他經常在殿廷行刑殺人，不納勸諫，甚至允許各級官吏可以「律輕、情重」為理由，刑訊逼供，公開提倡法外用刑，致使冤獄遍地，實際上已經沒有任何法制可言。後來，隋煬帝繼位，雖然頒布了比《開皇律》還寬大的《大業律》18卷和《大業令》30卷，但是他橫暴殘忍，荒淫無度，恢複被廢除了的轘、裂、梟首等殘酷刑罰，把族刑由株連兩族發展到株連九族，終於導致「百姓怨嗟，天下大潰」(《隋書·刑法典》)，為唐所滅。