9月1日中午，上黨的大門襄垣城，被陝西漢子李達用有力的拳頭敲開了。
劉、鄧和張際春進入新收復的襄垣城。他們在縣署二堂的東邊寅畏堂召開了緊急軍事會議，決定了上黨戰役方針：首先奪取長治外圍各城，吸打由長治出援之敵，然後奪取長治。作戰時間為1個月。
會後，鄧小平立即趕回赤岸村軍區司令部，指揮陳再道、杜義德率領的冀南部隊和陳賡率領的太岳部隊，向上黨地區作向心集結。
9月10日凌晨2時，上黨戰役正式發起。當時我軍面臨的局勢是，閻軍佔領的上黨地區6城，其兵力部署是以長治為中心，以重兵把守，其餘5城則各以千餘人守備，兵力較分散，但工事防禦及火力配備較強。而我軍長期進行游擊戰，武器裝備落後，槍支彈藥奇缺，更缺少城市攻堅戰的兵團作戰經驗。因此，我軍決定戰役的第一階段主要是奪城打援，即集中優勢兵力，先分別奪取長治以外各城，同時誘使長治之敵主力出城增援，從而在運動戰中殲滅敵出援主力。
我軍首先打響了攻克屯留城之戰。擔負屯留攻堅戰的是太行縱隊，同時太岳縱隊和冀南縱隊則集結於長治至屯留的幾個敵必經之地，隨時準備殲滅長治出援之敵，其餘部隊分別監視、包圍了長子、壺關等城。在敵軍方面，守備屯留城的是閻軍挺進第6縱隊，千餘人，他們依傍城牆及堡壘工事，以較強的火力壓制著我軍的進攻，戰鬥較為激烈。這期間，長治之敵曾出動6000餘人，於11日、12日兩次試圖向屯留增援，但終因害怕被殲，加上我個別打援部隊過早暴露，敵援軍與我略經接觸即縮回長治。至12日，我即攻克屯留，全殲守敵，與此同時，我決定乘勝攻取長子並吸引長治之敵出援以消滅之。
長子位於長治西南50華里處。這座城不大，但工事堅固：城牆高2.5丈；沿城有一道3米多寬2米多深的護城壕，壕內積水過腰；城門外碉堡林立，可在不同的水平線上進行直射與側射；城牆外還設有鐵絲網、地雷等，防備森嚴，不易攻擊。城內守敵是閻軍挺進第2縱隊和該縣2個保安大隊，共計2100餘人。而我軍剛從游擊戰為主轉到攻堅戰，缺乏經驗，彈藥又少，一門山炮只有20發炮彈，一挺重機槍才有1000多發子彈，要攻打這樣的堅固城堡顯然有一定的困難。
陳賡太岳縱隊的386旅擔負了攻打長子的任務，為了加強攻擊力量，陳賡還將決1旅38團配屬該旅指揮。在戰前軍事準備會上陳賡指出：「攻堅、登城，我們部隊沒有好經驗，組織戰鬥要老老實實，千萬不可疏忽、蠻幹！」「彈藥盡量滿足你們，但不會太多，主要依靠手榴彈，要特別講究戰術，以短促的密集炮火，掩護部隊一舉登城……」會後，386旅旅長劉忠、政治委員張祖諒召集團以上幹部，認真研究了敵我態勢，做出了具體部署：772團先攻佔長子北關，而後在北門登城；沁水縣獨立團佯攻東門，鉗制敵人；20團、38團首先佔領西關，而後從西門發起攻擊。
9月13日1時許，長子攻堅戰打響了。城西的戰鬥打得比較順，20團經過5小時的戰鬥攻下了西關。接著38團也進逼城下。但北面的772團則打得異常艱苦，他們團進攻北高廟，是一座孤陡的小山，築有堅固的城堡，它是長子守敵的重要屏障，站在小山頂能俯瞰全城，山頂的炮火可越過城牆直射到城內大街上。守敵憑藉有利地形和工事頑抗，772團的四次攻擊都未奏效。
經過周密勘察，772團及時調整了部署，決定以自己擅長夜戰的優勢，利用北高廟靠城門的南面工事簡單、守備薄弱的缺陷，於夜間發起攻勢。在長子攻堅戰的第3個夜晚，這個從第二次國內革命戰爭時期就享有「夜老虎團」稱號的部隊，以1個排的兵力，趁夜色正濃之際，從敵人意想不到的南面摸上了北高廟，經過短時激戰，我軍佔領了北高廟，砸爛了長子的屏障，攻佔了北關。至此，各部隊都已先後轉入了攻城準備。
我攻城部隊組織了梯子組、跳板組、投彈組等，製作了跳板、雲梯等登城器材，並在西關、北關實行坑道作業，挖好了通往城牆的坑道，在牆根填塞了大量炸藥。經過嚴密的準備，18日19時，我對長子城發起總攻。
隨著兩發綠色信號彈划過天空，一聲巨響，西門城牆被炸開了一個缺口，與此同時，山炮、迫擊炮、重機槍集中火力壓制敵人，戰士冒著炮火，衝過開闊地，爬過鐵絲網，從跳板上衝過護城壕，把梯子架上城牆，僅僅10分鐘，突擊部隊就登上了城頭。
緊接著，772團、38團，沁水縣獨立團也相繼攻入城內，向縱深發展，與敵展開了激烈的巷戰。20團在擊退敵人數次反撲後，奪取了城內製高點——鐘鼓樓，從而有力地支援了各團的巷戰。戰至19日凌晨2時，戰鬥全部結束，除南高廟守敵1個保安大隊逃跑外，其餘全部被殲，計斃傷敵300多人，生俘1500多人，活捉閻軍挺進第2縱隊司令白映瞻。
從屯留之戰始，我每攻一城的時候，都以其他主力集結在機動位置，準備殲滅長治出援之敵，從而實現圍城打援之意圖。但自長子之戰後，長治之敵再也沒敢出援，我軍不能實現打援意圖。因此，劉鄧便暫時放棄了原來的方案，轉而採取分兵加速奪取長治外圍各城，以孤立長治的方針。17日，冀南縱隊攻克潞城；19日，太行縱隊攻克壺關。至此，長治外圍各城：襄垣、屯留、潞城、長子、壺關全被我攻克，共殲敵7000餘人，長治之敵已完全孤立，成為無足之蟹。我各路大軍直逼長治城下。