中共十一屆三中全會剛剛結束，1979年1月3日，胡喬木在中共中央宣傳部的會議上，作了一次頗為重要的講話。
他的這次講話，從理論上糾正了許多沿襲多年的「左」的口號，起了很大作用，產生頗大的影響。
比如，「以階級鬥爭為綱」，是在「文革」中廣泛流行的口號。
胡喬木否定了這一口號。他說：
「這樣勢必造成階級鬥爭的人為的擴大化。而且，照這樣推論，社會一旦消滅了階級，失掉了以階級鬥爭為綱的根據，社會發展就似乎沒有綱、沒有動力，或者忽然有別的矛盾起而代之，成為綱和動力了。」
又如，「無產階級專政下繼續革命」這一口號，也流行甚廣。
胡喬木也否定了這一口號。他認為：
「這個口號本來不是毛澤東同志提出的，而是『四人幫』一夥提出的。它公開見之於文字，最早是在1967年兩報一刊編輯部寫的《沿著十月社會主義革命開闢的道路前進》一文中。後來康生把它寫到了『九大』政治報告中，他在向中直機關部傳達『九大』精神時，又作了發揮。這個口號提出以來，報刊上發表過不少文章，但始終沒有嚴格推敲，把它的科學涵義和根據講清楚。……
「粉碎『四人幫』以後，對這個口號還作過一些宣傳，但是究竟它的涵義又是什麼仍然是一個問題……
「今後，這種涵義不清的口號，在現實生活中仍然可能成為不安定的因素。講清楚這個問題，對黨的理論和實踐，對中國革命和國際共產主義運動，都有重要的意義。至於採取什麼形式講清楚，那需要考慮，至少在一段時間內不要在報刊上講。」
再如，在社會主義社會「這個歷史階段中，始終存在著階級、階級矛盾和階級鬥爭」，是載入中共「九大」通過的黨章之中的。
胡喬木加以如下剖析：
「毛澤東同志沒有說過『始終』這兩個字，這兩個字是康生加的。加上這兩個字，就把毛澤東同志的話搞得面目全非，在邏輯上也講不通。列寧說：『社會主義就是消滅階級』。
「如果說在社會主義社會，階級和階級鬥爭始終存在，那怎麼消滅階級，怎麼進入共產主義？
「那豈不等於說，社會主義永遠不是社會主義，或永遠不能實現消滅階級的社會主義？這『始終存在』的錯誤提法，迫切需要糾正，也很容易糾正。但是也要經過中央正式決定，爭取一定的手續才好把它正式糾正過來。」
還有，毛澤東在中共「九大」上，扳著手指頭，曆數黨內一次次路線鬥爭，給人們留下極深印象。於是，動不動要說成路線鬥爭，說成第幾次路線鬥爭。
胡喬木對此作如是說：
「黨內鬥爭，是否都是社會階級鬥爭的反映，都是路線鬥爭？黨的歷史是否只是路線鬥爭的歷史？……
「黨內存在路線鬥爭，這是事實。但是，黨的歷史不等於就是路線鬥爭的歷史。如果任何鬥爭都是路線鬥爭，那末，黨內就幾乎天天存在路線鬥爭……
「很長時間以來在一些同志中間形成這麼一種心理，似乎黨內的任何鬥爭不提到路線鬥爭的高度上來，就沒有重要意義，就像吃飯沒有吃飽似的，總不過癮……
「馬克思、恩格斯、列寧一生都進行過不少的黨內鬥爭，但是他們？沒有說進行過多少次路線鬥爭，別人也沒有這樣說過，因為沒有必要這樣來歸類和計數。把黨內一切複雜的鬥爭都簡單化成為一定的刻板的模式，我們以後有沒有必要繼續這樣做？」
筆者所以如此詳盡摘錄胡喬木的原話，是因為這些撥亂反正的見解，是他在「文革」中那面壁九年反覆思索的成果，顯示了他的理論水平。他的這些見解，後來都被中共中央所接受，從此不再使用那些曾流行甚廣的「左」的政治口號。
在1979年11月，全國笫四屆文代會在北京召開。周揚在大會上作題為《繼往開來，繁榮社會主義新時期文藝》的主題報告。在起草這一報告時，胡喬木曾與鄧力群一起，致函胡耀邦、周揚，贊同報告的初稿中糾正一些「左」的文藝口號，並提出看法：
耀邦同志並請轉周揚同志：
周揚同志報告稿已遵囑看了兩遍，有些不成熟的意見寫出僅供參考。
（一）整個稿子似可開門見山，由歷史發展的新時期說到文藝發展的新時期，文藝在新時期的任務、文藝組織的新的工作方法。全文的關鍵似在對文藝與政治的關係作出新的提法，不再因襲過去的文藝為政治服務、文藝從屬於政治的提法。過去的提法有許多講不通的地方，過於簡單化，但現在不必加以批評，還是要給以歷史的積極的解釋和估價，因為它是當時時代的產物，也發揮了積極作用（當然也產生了消極作用），但現在仍然因襲就不適當了。我們想這可能是這次文代會能否開好的一個關鍵。時間已經過去二十年，積累了太多的痛苦和委屈，大家都希望更上一層樓，一定要使人一新耳目，才能振奮人心。至於新的提法似可考慮用培養社會主義的新人，爭取社會進步，但這隻適用於文學、戲劇、電影，對美術尤其音樂就不適當，因此也可加上耀邦同志提的滿足人民的精神生活的需要，提高人民的精神境界的意思。文藝要為四個現代化服務只能這樣服法，不能規定作品的主題和題材，文藝當然可以表現四化，但決不能解決八字方針一類的問題，否則社會重複幾十年的積弊，使文藝陷入困境，使廣大文藝工作者失望。
（二）文藝與黨的關係如何提要特別慎重。文藝究竟需要什麼性質、什麼範圍的領導？這個問題要打破條條框框徹底研究一下，因為不正確不適當的領導有不如無，世界文藝歷史並不是由於黨的領導而發展起來的，就是社會主義文藝，也是文藝家本人創造性勞動的結果，而不是領導的結果，領導無非是某種幫助和服務而已，這與科學、哲學完全是一樣的，領導決不能創造出科學家和哲學家，黨的領導是通過建立一種更適宜於科學、哲學、文藝發展的條件而實現的，任何對領導作用的誇大都只能造成反科學、反哲學、反文藝的後果。在這些方面我們都親歷太多，不能再沉默了。因此，我們希望報告稿能：（1）確定領導的含義，盡量減少各種各樣的領導。（2）對文聯、各協會與文藝工作者的關係作出切實而有益的規定。（3）報告全文盡量用建議口吻而不用號令口吻。
（三）歷史的敘述是否可考慮把時間縮短，範圍放寬（整個文藝界，而不是一小部分和一個地區）。因為許多問題一時難以作出結論，是否由現狀出發，在為解決當前工作所必須涉及的問題才涉及一下，而不作系統的回顧。
意見提得很匆忙，考慮不周，敬請原諒！
胡喬木 鄧力群
（一九七九年）九月十八日
此後，在1980年2月的中共十一屆五中全會上，決定重新設立中央書記處，胡喬木當選為書記。書記處的成員如下——
總書記：胡耀邦。
書記：（以簡體字姓氏筆劃為序）萬里、王任重、方毅、谷牧、宋任窮、余秋里、楊得志、胡喬木、胡耀邦、姚依林、彭沖。
這時，胡喬木在黨內的職務，已比「文革」前高了——那時他只是中央書記處候補書記。