胡喬木真正的復出，是在中共十一屆三中全會。
胡喬木不是中共中央委員，只能以列席者的身份出席中共十一屆三中全會。
然而，中共十一屆三中全會卻是至關重要的會議。此前，中共中央在11月召開了中央工作會議，歷時三十六天，為此會作了準備。這次會議，成了中國歷史的轉折點，結束了「凡是論」，確定了黨的工作重點轉移到社會主義現代化建設上來。這是一次撥亂反正的會議，首先要在理論上撥亂反正。鄧小平以為，胡喬木的參與是必不可少的。
一個列席者，參與的程度畢竟有限。正式出席者必須是中共中央委員，起碼是中共中央候補委員。可是，在中共「十一大」，胡喬木連候補委員也未選上。如果胡喬木要進入中央委員，必須等到中共「十二大」。
這次會議採取了特殊的措施：「考慮到第十一次全國代表大會以來黨的生活的實際變化和目前黨的工作迫切需要」，決定增補胡喬木為中共中央委員，「將來提請黨的第十二次代表大會對這一增補手續予以追認」。
胡喬木以這樣特殊的手續，被增補為中共中央委員。
果真，胡喬木發揮了他特殊的作用——為這次歷史性的會議，起草了公報。
如今，這一公報，已載入史冊。
公報作出了一系列撥亂反正的論斷：
「把全黨工作的著重點和全國人民的注意力轉移到社會主義現代化建設上來」；
「高度評價了關於實踐是檢驗真理的唯一標準問題的討論」；
「完整地、準確地掌握毛澤東思想的科學體系」；
「撤銷中央發出的有關『反擊右傾翻案風』運動和天安門事件的錯誤決定」；
「堅決地平反假案，糾正錯案，昭雪冤案」；
……
會議增選陳云為中共中央政治局委員、常委，中央委員會副主席。增選鄧穎超、胡耀邦、王震為政治局委員。
會議結束後，召開了中央政治局會議，決定黨中央設立秘書長、副秘書長，處理中央的日常工作。胡耀邦任中央秘書長兼宣傳部長，胡喬木任中央副秘書長兼毛澤東著作編輯委員會辦公室主任，姚依林任中央副秘書長兼中央辦公廳主任。
起草中共十一屆三中全會公報，意味著胡喬木再度成為「中共中央大手筆」。不過，他原先是以毛澤東為軸心，此時則以鄧小平為軸心。
1979年1月，胡喬木在中國社會科學院全院大會上作關於中共十一屆三中全會的報告。胡喬木充分肯定了關於真理標準的大討論。胡喬木指出 ：
「在思想路線方面，會議充分肯定了『實踐是檢驗真理的唯一標準』的討論。會議認為，這是關係到黨和國家命運的大問題。如果不承認實踐是檢驗真理的唯一標準，我們黨就不能前進，就要脫離實際，脫離群眾，黨就要失掉生機，我們就要亡黨亡國。前一時期為什麼有些同志對這個問題持反對意見？他們的思想受到了一些原因的影響，發生了僵化和半僵化現象，這是在一定歷史條件下形成的。首先是林彪、『四人幫』設置了許多禁區、禁令，不許人有不同說法，不許人按事實的本來面貌去說話。其次是權力過於集中的官僚主義，也就是通常的專制主義。所有問題都由一兩個人說了算。再次是，黨內是非不清，功過不分，賞罰不明，造成很多人不願動腦筋，動腦筋反而會受打擊。最後是，小生產習慣勢力，安於現狀，也是不願意動腦筋的原因。針對這些原因，胡耀邦同志提出：林彪、『四人幫』設置的禁區，還有哪些未打破的，要求社科院和其他單位提出清單，統統要打破。權力過於集中的現象要改變，要反對擁護權力過於集中的思想。」