根據中央提出的「奪取三路四城，首先打下平漢路和石家莊、保定」的指示，聶榮臻提出，如無晉冀魯豫的配合，執行中央的指示是困難的，建議先用半月時間，與晉綏配合打下大同。中央複電同意。於是7月，為孤立大同，晉察冀與晉綏軍區配合進行了晉北戰役。晉察冀軍區部隊在40多天中解放了山陰、繁峙、原平、五台、定襄等城鎮，殲敵8000多人，基本實現了預期目的。晉北戰役後，接著與晉綏軍區組織了大同、集寧戰役。
8月2日，聶榮臻到陽高主持了大同戰役作戰會議。根據大同守敵兵力不強，但城防堅固的特點，確定以5個旅圍攻大同，先在外圍各個殲敵，在圍城同時，另部署4個旅打傅作義可能的增援，並組成前線指揮部，由晉綏野戰軍副司令員張宗遜任司令員、晉察冀軍區副政委羅瑞卿任政委、第3縱隊司令員楊成武任副司令員。
7月31日戰役開始。大同城堅，對此估計不足，未能按計畫攻克。9月2日，傅作義3個師增援大同，這本在我意料之中。傅部進到集寧，被包圍。在敵人即將被殲時，傅作義又派了一個師增援集寧。由於前線指揮員指揮不當，不是集中全力先吃掉敵人3個師，而是掉頭打敵人增援的一個師，兵力調整又組織不當，致使敵4個師會合，失去了殲敵良機。
後來，聶榮臻在回憶錄里總結教訓時說：「發起大同戰役，有考慮不當之處。因為，大同敵人的兵力雖不雄厚，而城防設施是頗為堅固的。當時，我軍既沒有重武器配備，又缺乏攻堅戰經驗，哪裡有把握攻下大同？」（《聶榮臻回憶錄》，解放軍出版社1986年3月2日版，第631頁）
在這種情況下，13日部隊撤離集寧，16日撤圍大同，加上8月28日放棄了承德，至此，張家口東西兩面受敵，形成被動態勢。聶榮臻權衡利弊，認為我軍一向以殲敵有生力量為主，不計一城一地的得失，決心能守則守，必要時主動放棄張家口。