胡喬木除了為毛澤東、為中共中央起草文件之外，還曾為周恩來總理起草重要文件。谷羽回憶說：
給我印象最深的要算他為總理起草1956年召開的「知識分子問題會議」的報告。隨著國內建設形勢的變化，黨對知識分子工作的政策也有新的發展。五十年代前期，知識分子經受了許多鍛煉，政治上有很大的進步。在新形勢下，如何進一步調動知識分子的積極性，充分發揮他們在社會主義建設中的作用，成為中央領導同志關注的問題。當時中央提出了「向科學進軍」的口號，並決定在1956年初召集一次知識分子問題會議。中央專門成立了「知識分子問題十人小組」，負責準備工作。喬木受總理委託，起草總理在會上的報告。那大約是在1955年下半年。
喬木接受這個任務的那一陣子，心情特別好，全身心地投入對這個問題的研究之中。喬木在過去協助起草有關的中央文件時，總理在知識分子問題上的一些思想觀點對喬木早有啟發，在這個問題上，他和總理有很多共同的認識。此前中央又組織了對知識分子問題的一系列調查研究，收集了大量豐富的材料。喬木在家裡把那些重要的材料和文件擺了一長條桌，仔細翻閱，著手起草。他沒日沒夜地伏案工作。常常是我一覺醒來，他的書桌上的燈光還亮著，他還在忙碌。正如他的詩中描寫的那樣，「心頭光映案前燈」。大約忙了兩個多月，到11月份起草工作有了眉目。這時總理經常讓喬木到他那裡去，商討起草報告中的各種問題。過了1956年元旦，報告的草稿出來了。總理又多次召集喬木和其他部門的負責同志及「十人小組」的同志，反覆討論。其中最重要的問題是怎樣確定知識分子的階級屬性。記得在正式開會前的一天凌晨，他從總理那裡談了一夜回到家，很高興地告訴我：「對知識分子的定性問題，總理的意見通過了！」我知道，喬木在起草過程中，根據總理的指示，在報告中提出中國知識分子中間的絕大部分「已是工人階級的一部分」的論點。這是一個重大的改變。多少年來，特別是建國初幾年，總是把知識分子看作附在剝削階級皮上的毛，這個報告的新提法，實際上是給知識分子解脫了「剝削階級」的帽子，具有深遠的意義和影響。我就是在當時那種加強科學技術工作的形勢下，調到中科院工作的。
1956年9月15日下午，一次盛大的歷史性會議，在北京召開——中國共產黨第八次全國代表大會開幕。此時，離1945年的中共「七大」已經整整十一年了。
為著起草中共「八大」文件——毛澤東的《開幕詞》、劉少奇的《政治報告》、周恩來的《關於發展國民經濟的第二個五年計畫的建議的報告》等，毛澤東的三位秘書處於高度忙碌之中。
就在大會召開的前一天，毛澤東還給三位秘書寫了這麼一封信——
伯達、喬木、家英同志：
（一）「黨的領導」部分，看了一遍，可用，估計不會有太多的修改了。但是一定還會有一些修改。我們都要睡覺。你們在上午十二時以前改好後，直接交尚昆付翻譯和付印。
（二）開幕詞又作了一些修改，已去打清樣送你們，請再加斟酌，於下午交我為盼！
毛澤東
9月14日上午六時
毛澤東在中共「八大」所致開幕詞，最初由陳伯達起草，毛澤東閱後不滿意，以為「扯得太遠」，改由田家英另起一稿。
胡喬木主要忙於和陳伯達一起起草政治報告。另外也協助周恩來修改關於第二個五年計畫的報告。
在中共「八大」，胡喬木當選為中共中央委員。
緊接著，在中共「八大」閉幕的翌日——9月28日，召開中共八屆一中全會。會議選舉新的中央領導機構。胡喬木當選為中央書記處候補書記。
當時當選為中央書記處書記的是：鄧小平、彭真、王稼祥、譚震林、譚政、黃克誠、李雪峰。
候補書記為：劉瀾濤、楊尚昆、胡喬木。
從此，胡喬木參加中共核心會議，不再是列席者，而是出席者了。