住在遠離市中心的香山雙清別墅，畢竟諸多不便，毛澤東於1949年7月遷入中南海豐澤園的菊香書屋。胡喬木也隨著毛澤東，搬進中南海，住在靜谷，胡喬木一家住在近北面的三間西廂房內院，與田家英為鄰。那裡離毛澤東住處不太遠。毛澤東來一個電話，胡喬木隨叫隨到。
胡喬木的女兒胡木英是這樣回憶笫一次住進中南海的情形：
具體怎麼搬的我不知道，但是只是到那個星期六下午接我們回去的時候呢，就不去香山了，就去了中南海，這才知道他們已經搬到中南海了。剛進中南海我們是住在那個靜谷，就挨著主席的那個旁邊，在他西邊，靜谷的後邊呢，北邊呢就是春耦齋，那個地方挺漂亮的，有樹，有假山，而且還都是些老樹，特別是那個院裡頭有兩棵樹是連根樹，兩個根，但是長到，後來長到一起成一棵樹，所以印象特別深。
房子都比較破舊，漆脫落了，但是起碼房間都有了，我父母的卧室，辦公的地方，然後我們的住房和帶我們的阿姨住的地方，反正一人都有那麼一小間吧，房間也不是很大，但是足夠，足夠我們住了。
靜谷、來福堂、喜福堂、頤園，我們家在中南海搬了幾個地方。
那時，在胡喬木起草的種種文件之中，最費精力的莫過於參與起草《共同綱領》了。
《共同綱領》的全稱是《中國人民政治協商會議共同綱領》。劉少奇在1949年9月21日的講話中，稱《共同綱領》「是總結了中國人民在近一百多年來特別是近二十多年來反對帝國主義、封建主義和官僚資本主義的革命戰爭的經驗，而制訂出來的一部人民革命建國綱領。」
這樣的「建國綱領」，起草工作自然費時費力。
「政協」，有所謂「舊政協」與「新政協」之分。
「舊政協」的全稱是「中國政治協商會議」，1946年1月在重慶舉行，國民黨、中共、民主同盟、青年黨和無黨派人士參加，以「協商政治問題」。當時，蔣介石發動內戰的準備工作尚未就緒，也就被迫同意舉行這樣的會議來「協商政治問題」。自然，當蔣介石軍隊向中共發動大舉進攻，「政治」也就沒有「協商」的餘地了。
1948年4月30日，中共中央發出的《紀念『五一』節口號》第五條這樣寫道：
「各民主黨派、各人民團體、各社會賢達迅速召開政治協商會議，討論並實現召集人民代表大會，成立民主聯合政府。」
這樣，也就提出了召開「新政協」的倡議。中共的這一倡議，得到了民主黨派和無黨派人士的響應。於是，1948年10月初，由周恩來主持起草《共同綱領》，當時叫《中國人民民主革命綱領》。1949年初，寫出了第二次初稿。後來形勢起了很大變化，初稿要另起爐灶。
1949年6月15日，新政協籌備會在北平成立，決定由周恩來擔任《共同綱領》起草小組組長，許德珩為副組長。會議又決定，委託中共負責《共同綱領》草擬工作。
胡喬木參與了草擬工作。經過五易其稿，在8月22日才算寫出《新民主主義的共同總綱領》（當時的名稱），送毛澤東審閱。
毛澤東親自作了修改。如今，尚可從毛澤東寫給胡喬木的五封便函，看到當年修改時的繁忙景象：
其一
喬木：
綱領共印三十份，全部交我，希望（今晚十點）左右交來。題應是《共同綱領》。
毛澤東
9月3日
你應注意睡眠。
其二
喬木：
今（引者註：指9月3日）晚付印的綱領，請先送清樣給我校對一次，然後付印。
毛澤東
即
其三
即刻付印（引者註：指9月5日），一小時內交我。
毛澤東
其四
照此改正，印成小冊子一千本。
毛澤東
9月6日
其五
喬木：
即刻印一百份，於下午八時左右交周副主席（引者註：指周恩來）。但不要拆版，候起草小組修正後，再印一千份。
毛澤東
9月11日下午四時半
內中，從9月10日晚九時起，周恩來、胡喬木等在毛澤東處一起討論《共同綱領》的修改，直至翌晨七時，一口氣討論了十個小時！
從毛澤東關照胡喬木「你應注意睡眠」一句，也可看出當時胡喬木工作的緊張之狀。
《共同綱領》，其實不光是「建國綱領」，而且還可以說是當時的一部「臨時憲法」。
周恩來先後召開了七次會議，徵求各方意見。
1949年9月29日，《共同綱領》經新政協大會正式通過，正式定名為《中國人民政治協商會議共同綱領》，載入了史冊。
胡喬木還為新政協的召開，寫了《舊中國滅亡了，新中國誕生了》一文，作為新華社社論發表。胡喬木寫道：
「中國人民政治協商會議的開幕，是中國光輝燦爛的人民的新世紀的開端。這是全中國人民空前大團結的會議。這個會議宣告了舊中國的永遠滅亡和新中國的偉大誕生……」
新政協決定，自1949年9月27日起，北平改用原名北京——北京是在1928年6月20日被南京國民政府改名為北平的。北京定為新中國首都。新政協選舉毛澤東為中央人民政府主席。