2003年3月6日上午，國務院機構改革方案提請十屆全國人大一次會議審議，啟動了改革開放以來的第五次大規模的機構改革。在這天的會議上，國務委員兼國務院秘書長王忠禹向人代會提交《關於國務院機構改革方案的說明》，這個方案在3月10日第三次全體會議表決獲得通過。
張卓元就是這個方案的主起草人。
從1982年到1998年，中國政府機構改革共進行了4次。1981年時，國務院的工作部門有100個，達到建國以來的最高峰。1982年3月8日，五屆全國人大常委會第二十二次會議通過了關於國務院機構改革問題的決議，國務院各部門從100個減為61個，人員編製從原來的5.1萬人減為3萬人。1988年4月9日，七屆全國人大一次會議通過了國務院機構改革方案。改革的重點是那些與經濟體制改革關係密切的經濟管理部門。此次改革使政府的經濟管理部門從直接管理為主轉變為間接管理為主，強化了宏觀管理職能，淡化了微觀管理職能。通過改革，國務院部委由原有的45個減為41個，直屬機構從22個減為19個，非常設機構從75個減到44個。機構改革後的國務院人員編製比原來減少了9700多人。1993年3月22日，第八屆全國人大一次會議審議通過了關於國務院機構改革方案的決定。方案實施後，國務院組成部門、直屬機構從原有的86個減少到共59個，人員減少20％。當年4月，國務院決定將國務院的直屬機構由19個調整為13個，辦事機構由9個調整為5個。國務院不再設置部委歸口管理的國家局，但設置了國務院台灣事務辦公室與國務院新聞辦公室。1998年3月10日，九屆全國人大一次會議審議通過了關於國務院機構改革方案的決定。根據改革方案，國務院不再保留的有15個部、委，新組建的有4個部、委，更名的有3個部、委。改革後除國務院辦公廳外，國務院組成部門由原有的40個減少到29個。
但是，隨著經濟和社會的發展、改革的深化，包括加入WTO後中國已有的機構改革與現行的有些體制仍有不適應新形勢的地方，需要完善。這次機構改革方案涉及國有資產、宏觀調控、金融監管、流通體制、食品安全、人口發展等重要部門的調整。
張卓元在解讀此次機構改革方案時說，1998年的國務院機構改革以精簡為主，這次機構改革方案則以調整政府職能為主。主要內容不單是撤銷、精簡，而是把部分行政部門的職能進行調整，把有些交叉、重複的職能加以整合。他舉例說，隨著經濟發展，人們越來越關心食品、藥品等消費品安全問題和生產安全，這需要有個部門專門管理，所以機構改革方案中提出了組建國家食品藥品監督管理局。現在，銀行的監管越來越受到重視，為保證銀行業運行的安全、高效，這就需要成立銀監會。這些機構的出現，都是隨著經濟、社會發展所提出的新要求而產生的。另外，國家經貿委主管技術改造，而國家計委主管基礎設施建設。國家的投資建設實際上由兩個部門管理，造成多頭管理，降低了政府效率，也容易形成重複建設。再有，國家計委是很重要的宏觀調控部門，負責國家的長遠規劃，而屬於短期宏觀調控的經濟運行調控又由經貿委主管。這實際上使長期、短期的宏觀調控分散到不同的政府部門。在進出口方面，農產品歸計委主管，工業品和原材料歸經貿委主管，其他一些又由外經貿部管，這樣對於整個對外貿易發展是不利的，是一種沒有必要的分權。他認為，此次改革沒有上一次動作那麼大，但對政府轉變職能有很大促進作用。
有人會擔心，新的機構改革可能會導致權力過分集中。張卓元認為，改革報告中明確指出，政府要加強自身建設，盡量減少審批，減少對微觀事務的干預，改進自己的工作方法，讓市場機制更好地發揮經濟調節作用。政府部門還要規範、透明，不能搞暗箱操作。政府機構改革的目的就是要建立「透明政府、責任政府、法治政府、誠信政府」。
很多專家認為，這次政府機構改革，將使中國的經濟功能得到進一步釋放，將有利於中國綜合國力的提升。著名經濟學家張維迎甚至算過一筆賬：如果把大部分管製取消，中國國民生產總值總量可躍升30%。
但是，張卓元也看到，隨著改革推進，這次改革本身還有很多問題需要探索，比如國資委怎麼監管國有企業，怎麼做到管市場、管人、管事的結合？銀監會的成立對銀行業加強監管，但中國人民銀行還有別的監管職能，這兩家怎麼協調好，保證銀行業的安全、穩健運行，這些方面恐怕都還需要不斷地協調。
對於這些問題，張卓元又開始了新的思考。