經中央軍委同意後，準備攻打太原城的各部隊轉入休整。
第1兵團各部隊的主要工作是：⑴補充整理部隊；⑵進行政治整訓與軍事練兵；⑶進行糧彈等物資準備；⑷偵察敵情；⑸開展政治爭取工作。
補充整理部隊：
由於兵團於1948年5月剛成立，第15縱隊也剛由地方武裝升級組成，各級領導機構均不健全，部隊兵只剩1人。員本來就不夠充實，臨汾、晉中戰役中又有較大傷亡，使各部隊兵員嚴重不足。全兵團1000人以上的團僅有2個，有的團連級軍政幹部只剩3人，營級幹部因此，在休整中加緊補充整理部隊，爭取改造俘虜、動員翻身農民參軍及傷病員歸隊；提拔調整幹部，健全各級領導機構，正式成立兵團後勤部；補充調整部隊的武器裝備，基本達到每連步槍90支，輕機槍6挺；每營重機槍6挺；每團82迫擊炮6門；每旅山炮4門，120重迫炮6門；每縱隊山炮4門，150重迫炮4門。
經過休整補充，至1948年9月底，第1兵團的兵力達7.79萬人（1948年10月14日徐向前、周士北、陳漫遠向中央軍委和華北軍區所作《九月份實力報告》）。加歸其指揮的其他部隊，參加太原戰役的兵力計1個兵團、4個縱隊、17個步兵旅，1個炮兵旅，共11.5萬人。
進行政治整訓與軍事練兵：
在補充整理部隊的基礎上，針對太原城防堅固的特點和部隊的思想實際，各部隊普遍開展形勢教育和訴苦教育。通過發動戰士分析敵我雙方的形勢，對比敵我雙方人力、物力、民心等各方面的情況，使大家認識到：「敵是死水坑，我是長流水」，閻錫山雖憑堅恃險，不過是困獸猶鬥。
通過開展訴苦教育，使廣大指戰員特別是解放戰士提高了階級覺悟和政治覺悟，他們揭破閻錫山的種種欺騙，紛紛表示「干解放軍」，從而減少了逃亡，鞏固了部隊。
與此同時，部隊自8月下旬開始進行軍事練兵，結合實際敵情、地形，學習訓練攻防戰術、爆破和土工作業。經過軍事練兵，各縱隊約有70%的人學會了爆破，廣大指戰員從訓練中體驗到鋼筋水泥碉堡能被炸垮，土工作業能避免炮火殺傷，從而提高了打太原的勝利信心。
進行糧彈等物資準備：
休整期間，各級後勤部門盡量改善部隊生活，恢複戰士體力。各縱隊均成立了醫療所、休養所和擔架隊。為攻打太原，華北軍區調運彈藥400萬餘公斤，其中，各種炮彈83.5萬餘發，各種子彈4825萬發，手榴彈78.6萬枚，黃色炸藥41.3萬餘公斤，黑色炸藥6.65萬餘公斤。部隊需糧數很大，僅小米一項每日即需20萬公斤。
晉中軍區支前司令部組織民工民兵向前線運送糧彈，確保了部隊的各種需要，並為部隊作戰準備了大小檁條30萬餘根、門板32萬餘塊、麻袋30萬餘條。
偵察敵情：
整訓開始後，兵團劃分了南、北、西3個偵察區，組織部隊和各區的偵察部門及城工部、社會部、敵工部的全部力量，對太原進行全面偵察，基本掌握了守軍的兵力部署、碉堡分布及地形等情況。東山柳溝村黨支部書記趙炳玉，從閻軍防區出來，向兵團首長彙報了有關通往牛駝寨秘密小道的情況。兵團即派人偵察，並將此道路確定為戰役的突破口。後來，第7縱隊就是由此襲占牛駝寨的。
開展政治爭取工作：
在進行戰役準備的同時，第1兵團大力開展政治爭取工作。徐向前親自找在晉中戰役中被俘的閻錫山第7集團軍總司令趙承綬，叫他回去勸閻和平解決太原問題。但趙擔心回去被殺。徐向前只好讓他寫信給閻錫山及其周圍的高級將領。華北軍區派副參謀長王世英等人赴太原前線組成工作組，利用各種關係，試圖與閻錫山談判，以爭取和平解放太原。經過動員，年近八旬的閻錫山的老師，表示為拯救太原黎民百姓免於戰火，願意進城去見閻錫山。然而，閻非但不聽勸告，反而把老師給殺了。此後，華北第1兵團即將政治爭取工作的重點放在下級官兵身上。