太原敵軍總兵力的80%被殲滅於外圍之後，我各路大軍迅速收攏，將太原城包圍得如同鐵桶一般。下一步，就要攻城了。有軍事常識的人都知道，突破口選擇得正確與否，是進攻戰成敗的關鍵。攻城也是這樣。從何處突破敵人的防禦，這將對一舉登城和向縱深發展進攻，有很大關係。
太原的首義門(在今太原市五一廣場一帶)，素有「鐵門」之稱。它高三丈六尺，上寬二丈五尺，下寬四丈五尺，左有勝利門，右有復興門，是閻錫山退守太原城垣之後，防禦最為強固的城門之一。
為加強這裡的防護，閻錫山在首義門一帶修築了大量工事。就其形狀來說，有圓的方的，高的低的，明的暗的，有凸出來的，也有凹進去的。在城垣腳下，是一條又寬又深的護城河和一條護城路。護城路上有坦克、裝甲車來往巡邏。在首義門的兩旁，築有6個大母碉和兩個鋼板卧虎碉。在首義門東西50丈以內的城垣正面，從上至下構築了9層工事，配置有各種火炮40餘門，輕重機槍240多挺，噴火器30具，各種火力點總共250多處。還有所謂可以轉動的「原子別孔」。
一個美國記者曾在他的觀感中寫道：「任何人都會為這裡的工事、碉堡而感到吃驚。高的低的，方的圓的，三角形的，藏在地下的，構成了不可思議的密集火網，」閻錫山把它吹噓為「太原鐵城之鐵門」，「堅如鋼鐵的要塞」。太原綏靖公署參謀趙世鈴也囂張地揚言：「倘共軍由首義門攻城，我可在幾秒鐘內，將城前變成一片火海，使共軍死無葬身之地。」
按說，這次選擇攻城的突破口，是應當避開敵人這一強點的。但19兵團某師，卻偏偏看中了首義門。
19兵團某師是一支能攻善守的英雄部隊。在多次戰鬥中，尤以長於攻城作戰而聞名。這次突破太原城垣，他們計畫以兩個團並肩突擊。首義門以西第12號突出部，為大功團五六三團。擔任突擊的是該團的「鋼鐵第一營」。尖刀連是該營第一連。在首義門以西的第11號突出部，為五六二團。擔任突破的是赫赫有名的該團第2營。尖刀連是該營第六連。
這個師把突破口選在首義門，從這個師的代師長張挺的意見看，有這樣幾個有利條件，一是太原城內的我地下工作人員送來的太原城防圖，詳細說明了首義門一帶敵人的防禦工事和部署情況。二是敵人自恃首義門牢不可破，估計我軍不會由此突破，麻痹大意，警惕不高，三是我軍已以此為對象，進行了多次登城訓練。四是突破城垣以後，便於我軍向敵縱深發展，直插太原綏靖公署。把突破口選在首義門，實際上是選在了敵人最要害的部位。搞掉了它，就可以動搖其全局，使敵人整個防禦解體。
他們把方案報到了軍部。軍長鄭維山很快作了批複，同意他們的方案。正在這時，我渡江大軍勝利突破長江天險的消息，傳到了太原前線。指戰員們情緒更加激昂振奮。在一連的陣地上，火力組機槍手王海的火性子脾氣又犯了。他來到突擊組的戰士潘根生跟前，粗聲粗氣地說：
「咋搞的？攻城的命令還不下來？我恨不得一下子把城牆踏平，打爛閻罐罐，為太原人民報仇。」
「不能急，不能急。城外作戰昨天早晨才結束。要攻城，也得各攻城的部隊都準備好。聽徐團長說，前線司令員昨天向敵人發出了立即投降的最後通牒。敵人要是聰明點，宣布投降，還能避免城內人民生命財產的損失。咱還是沉住氣，多考慮點困難，多琢磨些辦法。」
潘根生見王海脖子上的青筋下去了，又說：
「我估計，時間不會長了。越是敵人沒動靜，越證明他不投降。你來看看我的立功計畫行不行？」
在五六三團六連的陣地上，營里劉副教導員正在講話：「大夥決心把第一面紅旗插上太原城頭，這很好！這次登城，不僅是我們和一連競賽，也不僅是兩個團的競賽，而是所有登城部隊的立功大競賽！我們一定要做好準備，保證完成任務。鞏固突破口，奪取首義門，接應團主力，迅速投入縱深巷戰。」
連長接著說：「我們再一項一項檢查一下準備工作。」說完，轉身對三排長魏連增說：「我看你那個梯子組在運動速度方面問題不大，就是得注意你那毛毛草草的勁兒。要不，打起來就要吃虧。」
魏連增憨笑了兩聲，說：「我再檢查一遍。到時候，萬一梯子出了毛病，我們就是架人梯，也要把突擊組送上去。」
這時，炊事班的同志把平時節省下來的白面蒸成的饅頭送來了。還送來58盒煙，煙盒上都寫著幾行順口溜，分別送給幹部和戰士。給通信員的煙盒上寫著：「多機靈，傳話清，保證命令要暢通。」給梯子組的煙盒上寫著：「運動快，放得穩，保證登城快如神。」給幹部的煙盒上寫著：「講求戰術指揮好，勝利必大傷亡小，」給突擊隊的煙盒上寫著：「迅速勇猛打縱深，大膽插入掏敵心。」
1949年4月23日夜，我攻城的各部隊全部秘密進入了各自預定位置。為了更好地利用我軍炮火襲擊的效果，各突擊分隊一直前進到距城牆很近的塹壕內，就地隱蔽下來。指揮員盯著手錶，戰士們望著夜空，都在等待著即將出現的信號。
突擊營和尖刀連的通信員，耳朵緊貼著電話耳機，等候著上級的命令。天空中，敵人探照燈的光柱來迴轉動著。4周除了城牆上敵軍峭兵吆喝壯膽的喊聲和幾聲冷槍冷炮的聲音以外，再聽不到別的響動。
在城南一連突擊組的衝擊出發陣地上，通信員從後面悄悄爬到副連長王福全身邊，小聲說：
「副連長，營長命令你們後撤！」
幾個戰士聽到，爬過來低聲驚問：「什麼？後撤？不讓我們攻城了？」
通信員連忙解釋：
「營長說，天一亮我們就要打炮，怕誤傷你們。」
王福全和大夥這才鬆了一口氣。想到就要突然齊放的幾千門大炮，真是令人振奮。可是，又想到，如果撤遠了，衝鋒的距離就拉長了。敵人就有時間準備反衝擊了。想到這，王福全沉默了。
戰士們把他團團圍住。他從戰士們探詢的目光里，看出大夥想蛇和自己想的一樣，就說：「大家繼續向里挖掩體，我請示營長去。」
他見到營長張鴻，把自己的想法作了彙報。張營長問：「你說應該怎麼辦？」
「我們想，把掩體挖到一人深，人蹲在裡邊，就是炮彈落在旁邊，也不會受損失。」
張營長笑了，但馬上又嚴肅地說：「不撤也可以，但必須隱蔽好，不能遭我炮火誤傷。等我炮火延伸以後，再發起攻擊！」
整個大地，悄然無聲。這是暴風雨前的短暫寧靜，一場激戰就要來臨了。
4月24日5時30分，東方剛剛露出一線曙光，太原城頭上空，突然升起三顆信號彈。向太原守敵的總攻開始了。
霎時間，千百門大炮同時怒吼，一條條憤怒的火舌，呼嘯著射向敵人陣地。
傾刻之間，太原城頭紅光閃閃，炮聲隆隆，硝煙瀰漫，一片火海。在我軍炮兵準確猛烈的射擊下，城牆一段一段的塌了下來，不少碉堡被摧毀，空中飛舞著敵人的屍體、殘槍、斷炮和磚石木料。敵人連鑽帶滾，呼爹叫娘，一片混亂。
戰士們壓抑不住心頭的興奮，再也等不得了。乘我炮火襲擊的有利時機，首先實施連續爆破，迅速掃清衝擊道路上的障礙，開闢了登城通路。梯子組飛快地把梯子向城牆靠去，各突擊分隊如箭離弦，爭先恐後地開始登城。
在城南，緊靠首義門的西邊，向敵人第11號突出部突擊的五六二團二營第六連，在我炮火剛剛延伸時，就勇猛地發起了衝鋒。三排長魏連增帶領由兩個班組成的梯子組，抬著360多斤重的梯子，乘著重重煙霧，冒著「嗖嗖」亂飛的子彈和四散的磚石，飛快地向城牆衝去。他們在首義門以西100米處靠上雲梯，剛剛放穩，副連長楊俊傑就帶領由一排組成的突擊組，飛速登城。
一機班戰士李清雲第一個跨上雲梯，「噌噌噌」就往上攀，轉眼之間，便上到梯頂。但是，城高梯短，還差一人來高，怎麼也攀不上城牆。在這萬分焦急的時候，副手張景樹跟上來了。張景樹說：「來，我把你頂上去。」說著，就上到梯子最高一層，讓李清雲踩在他的肩膀上，李清雲順勢向上伸手，抓住了城牆垛口，胳膊使勁，縱身躍上了城牆。
李清雲翻上城牆，馬上伏下身子，接過了張景樹遞上來的機槍。他剛要站起，掩護同志們上城，猛覺腿上一熱，一顆子彈從他的小腿肚子穿過，鮮血順著褲腿流了下來。再看，30多個敵人像惡狼般從左邊撲過來。李清雲不顧傷口的疼痛，立即架起機槍，向敵群猛掃。這時，張景樹也登城了。他連續投出3顆手榴彈，打得敵人死傷大半，其餘的都狼狽逃竄了。
當第3名戰士舒守印登上城牆的時候，敵人以一個排的兵力反撲過來。3個勇士佔據已得陣地，用機槍、手榴彈一陣猛打，敵人丟下10多具屍體，連滾帶爬地退了下去。第四名戰