針對解圍部隊，日軍第二三四聯隊面向西南佔領了一系列陣地，其中以雞窩山陣地最為險要。
雞窩山距衡陽僅有十公里，登山頂即可望見衡陽，它也是衡陽西郊連綿山地中海拔最高的一座山頭。雞窩山的山腳下就是通往衡陽的公路，公路朝中國軍隊的一方是一片開闊地，易守難攻。
在常德會戰中，五十八師的王慕羨乘漆家河守敵不備，率一連兵力圍殲了在房子內休息的日軍一個中隊，因此七十四軍軍部曾授以「全軍模範連」的稱號。這次該連被作為尖兵連，擔任攻擊雞窩山的尖刀部隊，連長王慕羨當即立下軍令狀，並交代他一旦戰死，便由第一排排長代理他的連長職務。
以炮火為掩護，五十八師從黃昏開始向雞窩山主峰發起攻擊。王慕羨手擎國旗，準備發起衝鋒，不幸中彈犧牲。代理連長繼續指揮衝鋒，經過前仆後繼的攻擊，日軍被迫撤至反斜面。
戰鬥進行到第二天，五十八師投入的一個主攻營即傷亡近半，兩名連長一死一傷。第三天拂曉，一架低空盤旋的日機向中方陣地進行對空射擊，爾後因為懼怕盟軍飛機的反擊，急於返回，結果慌慌張張投下的兩顆炸彈都落到了日軍自己的陣地上。五十八師乘機全力衝殺，向敵軍陣地投去大量手榴彈。
抗戰後期的中國軍隊出現了嚴重的兵員補充危機。部隊補充與調撥的兵員，多半來自於師、團管區的壯丁。當時名為徵兵制加募兵制，但實際上就是抓兵制，也就是俗稱的「抓壯丁」。抓來的壯丁大多並不符合入伍條件，他們的身體往往不夠壯實，吃不了苦也不願意吃苦。同時因為前線頻頻告急，時間緊迫，稍作訓練就得開往前線。這樣造成的後果，就是多數新兵不會使用槍炮，甚至有的軍官都不會射擊、劈刺，當然也教不了自己的士兵。
七十四軍在被定為攻擊軍後，就在後方貴州有專門配屬的師管區、團管區，負責為七十四軍招兵買馬編練新兵。橫向比較，七十四軍的新兵質量可能要比其他部隊好些，但很多問題也不可避免地存在著。這時候讓新兵發揮作用的一個有效辦法，就是教他們投擲手榴彈。
一名軍官在給新兵做精神講話時，這樣給毫無軍事基礎和戰鬥經驗的新兵們打氣：「我們非常需要你們，你們雖然都沒有打過仗，不會投手榴彈，但是沒有關係，我們會馬上把你們教會。」
相對於射擊、劈刺，投手榴彈確實最簡單。只須幾名老兵，就可以在短時間內講清楚手榴彈的投擲法。至於投擲時的實際水平如何，不講究，你能投的遠一些最好，稍近點也可以原諒，總之，短兵相接時，「只要投出去的手榴彈爆炸，敵人一定會死！」
暴風雨一般的手榴彈投過去，霎時間，炸得日軍陣地一片火海，敵兵死傷累累，不得不向後潰逃。8月2日，五十八師收復了雞窩山主峰。
在其餘高地，中日兩軍也展開了激烈爭奪。8月4日晨，五十一師隨軍部也到達前線。軍屬炮兵營的十二門山炮迅速放列陣地，對雞窩山東面的一〇六六高地實施猛烈轟擊，山頭上的日軍被轟得躲在掩體內不敢伸頭。
五十一師、五十八師立即抓住戰機，像猛虎一樣向山頭髮起衝鋒，日軍丟下山頭，不支撤退。打掃戰場時，發現被打死的很多日本兵也很年輕，應該都是從本土徵集的新兵。因為來不及把屍體運走，每個屍體都被砍掉了一隻手——日軍將在這隻手的旁邊寫上陣亡者的姓名，然後送回日本後交給他們的家屬作為陣亡的證據。
在七十四軍的激勵下，第一百軍也連續攻下了牙鷹嶺等高地。雞窩山一線的被動局面，讓日軍第二三四聯隊長戶田義直大佐如坐針氈。
戰鬥越深入，越能凸顯王牌部隊的價值。日軍投入衡陽戰場的兵員，大部分都是去年參加常德會戰以及長衡會戰開始以來連續作戰剩下的老兵，具有相當的作戰經驗。
可是第七十四軍也是戰鬥經驗豐富的老部隊，尤其五十一師、五十八師跟在常德戰後整補的五十七師不同，部隊里老兵較多，基層軍官多為從黃埔軍校畢業的學生。通過戰場上的反覆較量，這些部隊的官兵對日軍的編製、裝備、戰術，指揮以及習慣打法，都有一定的了解。
七十四軍也摸到了日軍在作戰上的一個基本特點，即「欺軟怕硬」，說白了，就是日軍非常害怕和第七十四軍這樣常打硬仗的部隊作戰。對他們而言，如果能常跟雜牌部隊或戰鬥力不強的一般「中央軍」打對手仗，才是最愜意最放鬆的。
現前的情況是沒有那麼好的事，七十四軍就逼在門口，讓你想高懸免戰牌都不能。情急之下，戶田聯隊長索性親自舉起聯隊軍旗，率後方部隊進入陣地據守。
日軍第四十師團長青木成一中將深感本師團尤其是第二三四聯隊情況嚴重，因此向第十一軍司令部提出了增援的請求，但未能獲得橫山勇的同意。與第四十師團鄰近的日軍第十三師團長赤鹿理中將看在眼裡，知道第四十師團已處於危急狀態，遂表示他願意拔刀相助，派出部隊前去援救，橫山勇的答覆只有一句話：「全力進攻衡陽！」
橫山勇並不是不知道戶田有多慘。據說在那些天里，這位軍司令官每天上下午都會登上司令部附近的高地，對雞窩山方面的戰況進行觀察，其間還對專屬副官說：「看來，戶田部隊仍在進行相當激烈的戰鬥啊！」
橫山勇倒不光是關注戶田的境遇，他還生怕戶田頂不住，讓七十四軍突破進來。不過為了能夠集中兵力，徹底攻克衡陽，他還是選擇了棄卒保車，始終不肯分兵對戶田進行增援。