首攻失利，而且損失慘重，日軍銳氣盡失，直到下午三點鐘，才組織了第二次集團衝鋒，結果又被守軍擊退，傷亡人數達到了一個步兵聯隊，另外還有十八輛坦克被摧毀，攻勢嚴重受挫。
第12軍司令官內山中將和華北方面軍總司令岡村寧次大將對第37師團的進展非常不滿意，當即把剛剛過河的獨立混成第七旅團調撥給第37師團指揮，並限令其於兩天之內突破守軍防線，推進到鄭州城下。
7月1日夜晚，日軍通過黃河浮橋連夜輸送大量的武器彈藥，以彌補連日惡戰的劇烈消耗，為來日的進攻做準備。第15軍各級指揮官則督導士兵全力加固、加深工事，以增強在日軍空襲和炮火下的生存能力——鄭州地處中原腹地，是典型的平原地形，連十幾米高的土坡都難覓蹤跡，地形利於進攻不利於防守，守軍只能從地下想辦法。
次日上午，長達半個小時的空襲之後，日軍又進行了二十分鐘的炮火急襲，然後再次出動二十多輛坦克，掩護兩個大隊的步兵衝鋒。日軍吸取昨日攻擊失利的教訓，採取步步為營、穩紮穩打的戰術，在步坦協同、徐徐推進的同時，連續出動轟炸機對地攻擊，守軍則依託簡陋的戰壕全力抵禦。由於國軍在武器上具有一定程度的優勢，日軍並沒有掌握主動權，於是就攻防戰就變成了不折不扣的消耗戰。
經過一個上午的惡戰，日軍又傷亡了兩千餘人，守軍的傷亡也相差無幾，不過，因為防彈衣的作用，戰死的比例不到日軍的一半。
7月2日下午，日軍集中了數量空前的大炮，其中口徑超過105毫米的就有五十多門，用六千多發炮彈把守軍陣地來來回回犁了好幾個來回，幾乎把那裡的每寸土地都翻了個個兒，戰場上面瀰漫著刺鼻的焦糊味，地面和戰死者的屍體都被烤得焦黑一片。
炮擊停止之後，三千多名日軍在四十多輛坦克的掩護下以排山倒海之勢衝出了戰壕，土黃色的人群如同海浪一般奔騰著，在廣闊的平原上擴散開去，在坑坑窪窪的炮彈坑四周澎湃激蕩，洶湧奔流，但是，守軍從殘缺不堪的戰壕裡面、燒焦的樹樁後面、水溝裡面射出密集、急促的子彈，數量驚人的手榴彈不停地投擲出來，如同死神的鐮刀一般，瘋狂地收割生命，不到半個小時的時間裡，守軍的陣地前就積累了超過一千具屍體。
無路可退的日軍絲毫不顧及巨大的傷亡，踩著同伴的屍體沖了前仆後繼地沖了上去，部分兇悍的士兵乾脆脫掉上衣，揮舞著戰刀嗷嗷怪叫著往前沖；所有的坦克都開足了馬力，向前猛衝猛打，不惜犧牲自己給後面的步兵沖開血路；數以百計的『肉彈』夾雜在步兵當中，妄圖用自己的身體打開缺口；日軍指揮官把手中的部隊一個大隊一個大隊的連續投入戰場，始終保持著強大的兵力優勢。
然而，儘管日軍的進攻已經達到了瘋狂的地步，但是在守軍的頑強阻擊下，仍然無法取得突破性進展！日軍剛剛佔領一段戰壕，守軍就發動迅猛的反擊，用密集的手榴彈和槍榴彈把它們徹底驅逐出去；突入陣地的坦克在反坦克槍和槍榴彈的威脅下，很難生存超過五分鐘的時間；精心挑選出來的狙擊手不斷把日軍的中隊長、小隊長和『肉彈』遠距離射殺，使其反覆陷入混亂的境地。
激烈的戰鬥一直持續到深夜，雙方發射的照明彈把天空照耀得如同白晝一般，殺紅了眼的士兵們用手中的各種武器死命搏殺，在戰鬥最劇烈的地方，刺刀乃至拳頭、牙齒都變成了有力的武器！經過整日鏖戰，雙方倒在陣地山的士兵都超過了三四千人，投入戰場的部隊百分之八十都傷亡過半，嚴重的甚至達到了百分之九十！
7月3日上午，日軍第12軍軍長內山毫不猶豫地把傷亡慘重的第37師團換了下來，用第110師團接替他們進行攻擊，同時命令工兵在下游三十公里外修建浮橋，準備迂迴攻擊。
經過三天的戰鬥，第15軍的三個步兵師都用光了手中的預備隊，步兵團的傷亡率全部在不百分之六十以上，其中擔負正面防務的第27師尤為嚴重，有一個步兵團的陣亡將士人數就達到了一千兩百人，兵力已經在枯竭的邊緣！
7月4日下午兩點三十分，劉昌義殘破不堪的指揮部里響起一陣緊似一陣的電話鈴聲，他急忙拿起聽筒，裡面傳來嚎啕大哭的聲音：「軍長，能不能給第27師留點種子！？現在全師沒有負傷的官兵加起來不到三千人，算上輕傷員也只有五千人，日軍隨便一次進攻出動的兵力都有這麼多，你叫我怎麼再堅持兩天哪？」
「混蛋！」劉昌義怒吼道：「呂公良，你他媽的還是個男人，是個軍人嗎？給我馬上把眼淚擦掉，到陣地上去！人在陣地在，你第27師只要還有一個人活著，就要給我打下去，否則，老子斃了你！」說罷用力把桌子一拍，搪瓷茶杯咣當一聲飛了出去。
聽到電話里的哭聲平息下來之後，劉昌義把語氣稍微放緩和一點，鼓勵道：「呂師長，蔣長官剛剛打電話過來，說已經把我們的困難向統帥部報告了，正在想方設法支援第15軍，另外，黃河缺口的封堵進行的非常順利，有可能提前達到目標，所以你一定要堅持住！」
這時候，第27師師長呂公良已經恢複了過來，用平靜的語氣說道：「軍長，咱們來生再見吧！」說罷把電話一掛，從桌子上拿起鋼盔頂到頭上，然後隨手抓過一枝衝鋒槍，對著指揮部里的幾名參謀喊道：「弟兄們，到戰壕里去！」說罷低頭鑽出掩蔽部。
劉昌義放下電話之後，立即高聲喊道：「參謀長，軍部警衛營還有多少人？」
參謀長正俯身在地圖上，頭也不抬地回答道：「只剩兩個連了！」
劉昌義不假思索地說道：「留兩個排保護指揮部，其他人跟我到第27師去！」
「軍長，讓我去吧！」參謀長吃驚地抬起頭，說道：「你是一軍之長，沒有了你怎麼指揮部隊，還是我去比較合適！」
劉昌義瞪了他一眼，用不容置疑的語氣說道：「你指揮部隊還行，直接上戰場差遠了——我可是從士兵一路升上來的，什麼樣的場面沒有經歷過！」
說罷高聲喊道：「警衛營長，馬上集合隊伍！」
炮彈接連不斷地落在道路的兩側，短短兩公里的距離就有二十四名戰士倒在日軍的炮火下，正當劉昌義一行人就要進入第27師後側的交通壕的時候，一架日軍轟炸機發現了他們，隨即俯衝下來！
密集的機關槍子彈在人群中掀起一片血雨，濺得劉昌義滿臉都是，他用水一抹臉上的血水，端起衝鋒槍猛烈掃射，口中發出憤怒的叫罵聲。
敵機拉升之後，再次俯衝下來，在最低點的時候把一顆50公斤重的炸彈扔了下來！
「軍長！小心哪！」警衛營長聲嘶力竭地叫喊著，然後縱身一躍，把劉昌義死死地壓在身體下面。
「砰」地一聲巨響，劉昌義感到一股灼熱的氣浪把自己包圍，警衛營長的身體突然變得沉重起來，一股熱流流到自己的背上。
劉昌義奮力坐了起來，還沒來得及察看警衛營長的傷勢，耳邊就傳來衛士的驚呼：「軍長，第27師的陣地被突破了！」
劉昌義「噌」地一聲跳了起來，順著衛士的手臂望過去，只見無數身影在第27師陣地上激烈的搏殺，其中土黃色制服的日軍士兵數量遠遠超過了灰色制服的國軍士兵，守軍在對方兇猛的衝擊下不斷後退，每秒鐘都有人倒在對方的刺刀下！
「弟兄們，殺！」劉昌義手槍一揮，沖了過去。
「軍長上陣啦！殺呀！」警衛營的戰士們齊聲吶喊著從劉昌義的身邊沖了過去，猶如下山的猛虎一般殺向日軍，半自動步槍和衝鋒槍口不停地跳動著，把一連串的子彈噴射過去。
軍長親自上陣，再加上生力軍的加入，第27師的戰士們頓時士氣大振，一邊發出山呼海嘯般的吶喊，一邊兇猛突擊。
前面的日軍成片地倒在警衛營的槍口下，緊接著，又被手榴彈報銷掉數十人，突如其來的打擊把日軍搞得暈頭轉向，以為對方來了大批增援部隊，慌忙潰退下去。結果，又被國軍銜尾追擊，擊斃了百餘名士兵。
腹部中彈的呂公良躺在擔架上，望著劉昌義，苦笑著說道：「軍長，我這裡是肯定守不住了，你何苦還要搭進來呢？」
劉昌義沉聲說道：「不到最後一分鐘，勝負就沒有分曉！你要這麼悲觀，先下去養傷吧，這裡由我來指揮！」
他的話音剛落，身後就傳來戰士的驚叫聲：「敵人的坦克又上來了！」