1937年，盧漢在雲南請纓抗戰。同年10月，由盧漢任軍長的滇軍被編列為第60軍，在盧漢的率領下，奔赴中國抗日戰場。
第60軍在雲南徵募的農民子弟兵，經過四五年的整治和訓練，成為軍容整齊、武器精良、軍紀較好的一支軍隊，下轄第182師、183師和184師。每師兩個旅，共12個步兵團。另有軍部、師部、直屬部隊警衛營、工兵營、通訊營、輜重營、衛生隊、防毒隊等。全軍官兵4.5萬多人。
台兒庄大捷以後，慘遭失敗的磯谷師團潰退到嶧縣、棗莊一帶，搶先佔據有利地形，企圖等待援軍，再伺機反撲台兒庄。第五戰區李宗仁長官當機立斷，命令參戰部隊乘勝追擊，從而鞏固或擴大台兒庄勝利戰果。
湯恩伯的第20軍團跟蹤追擊，把磯谷師團殘餘圍堵在嶧縣、棗莊之內，並立即在外圍構築工事。4月11日，第20軍團第52軍和第85軍開始向日軍進行攻擊，這場惡仗一直持續到4月21日。由於臨沂方向的日軍第5師團南下，第20軍團有側背受敵的危險，湯恩伯驚慌下令，全軍團後撤，一退便去了江蘇省邳縣。
第20軍團給磯谷讓開了大道。磯谷師團在得到援軍增援補充之後，迅速朝南推進。這次日軍第10師團在日軍第114師團的協助下，並裹挾著劉桂堂的偽軍8000人，殺氣騰騰地到台兒庄報仇來了。
十幾萬日偽大軍，於4月17日向台兒庄大舉反撲。
李宗仁要求增兵支援台兒庄，請軍委會速調第60軍來徐州。李宗仁發過電報後，還是感到心裡不太踏實，又命令司令部人員手持軍令親自到豫東，命令鐵路運輸司令把第60軍直接拉送到第五戰區司令部。就這樣，第60軍在盧漢軍長的率領下，從民權、商丘等車站乘車，於4月21日晚，在徐州東面趙墩至車輻山車站下車。
盧漢奉第五戰區的命令，要在兩天內趕到台兒庄以東地區的鳳凰集、耿庄、邢家樓、五聖堂等地集結。由於時間緊迫，各師在車站整頓完畢，戰士們就在隆隆的炮聲中朝前線開拔。
各師、旅到達指定地點，還沒有來得及構築工事，就同日本軍隊打起了遭遇戰。後來第60軍才知道，南下日軍也是剛剛走到蒲江、耿庄、邢家樓、五聖堂這一帶。第60軍首先同日軍接上火的是第183師的1081團。狹路相逢，雙方都感到很突然。由於事出倉促，雙方都沒有展開，全是以行軍縱隊遭遇在一起的。所以戰鬥一開始，便是短兵相接。走在隊伍最前面的是第1081團的尹國華營長，他率部衝進敵群，全營戰士一窩蜂地擁上去，同敵人撕扯在一塊。摟的抱的，槍聲、殺聲、手榴彈的爆炸聲，攪和在一起使人無法分辨，尹國華營長壯烈犧牲。後續部隊跟上來時，只見滿地都是屍體。
第1081團搶佔耿庄有利地形，日軍的後續部隊也跟了上來。他們用坦克、大炮狠攻耿庄，中國軍隊的1081團官兵傷亡慘重，耿庄落入敵手。附近的邢家樓、五聖堂村莊，先後全被日軍炮火摧毀。
第60軍同日軍初次交火，就把仗打得如此慘烈。
所幸的是，全軍在各自的陣地上頂住了敵人主力的第一輪進攻，在戰鬥空隙，搶修防禦工事。日軍佔領耿庄後，便以此作據點，以主力南下，進攻第182師防守的蒲汪。第182師的1079團在蒲汪構築了一天一夜的工事，工事相當牢固，敵主力屢攻不下，便集中所有炮火，鋪天蓋地朝蒲汪猛攻，蒲汪在炮火中被夷為平地。戰士們挖的壕溝幾乎都被填平。但是全團活著的戰士沒有一個後退。在敵人坦克開過之後，他們從壕溝里鑽出來，同戰車尾後的日本步兵展開肉搏戰。
開進蒲汪的二十幾輛坦克給182師防守陣地帶來巨大的威脅。迫擊炮排長馬上組織一支反坦克隊，他們在迫擊炮的掩護下，用集束手榴彈炸毀坦克兩輛。但是他們被五六輛坦克圍攻，反坦克隊20多名戰士，最後全部犧牲。
蒲汪戰鬥打得異常激烈，有人評價此戰激烈程度達到魯南戰役的最高峰。時任第60軍第182師的安恩溥師長回憶說：
至午後14時起，敵用各種炮百餘門、轟炸機十餘架轟擊，並投擲燃燒彈、毒氣彈，爆炸聲已分不清發數。此時盧軍長電話問我：「你的正面好像地震打雷一樣，這是什麼聲音？」我說：
「這是日軍對蒲汪陣地襲來的炸彈、炮彈的爆炸聲。」盧說：
「飛機大炮轟後，步兵戰車就來了。要注意！」至15時半，炮火方停。敵步兵和戰車對蒲汪陣地東北面三面圍攻，數度沖入陣地，均被擊退。最後一次已17時半，第一營長王承祓率百餘官兵，從南面繞出西南向敵側後襲擊，才將敵擊退，但王營長腿部被敵機擊中數彈重傷，所率官兵陣亡四十餘，傷三十餘，生還者只十餘人。
堅守蒲汪的第1079團被打光之後，日軍更是猖狂，他們大規模集團式衝鋒，朝邢家樓、鳳凰橋瘋狂進攻。堅守在邢家樓、鳳凰橋的是第183師的1082團，同強大的敵人激戰一天，傷亡巨大，寡不敵眾，向1080團防守的辛庄撤退。由於日軍進攻速度過快，第1082團的官兵幾乎同進攻的日軍一道裹著進了辛庄。堅守在辛庄的第1080團只有同日軍在庄內開展肉搏。
雙方打得昏天黑地，庄內遍地都是屍體。安恩溥回憶辛庄戰鬥時說：
24日夜，龍雲階團長報告敵人沖入辛庄的情況後，我即率特務連的一個排由胡山窩取道邱家林去李家圩視察，約25日5點到達李家圩，見著由辛庄逃出來的士兵，他們對我說，團營長都陣亡，辛庄已失守了。
第60軍同日軍的作戰情況使盧漢將軍大吃一驚，我滇軍部隊作戰能力不弱呀，武器裝備不差，彈藥充足。更不用說士兵了，個個都不怕死，敢同任何侵略的日軍玩命。這回怎麼了？盧漢鬧不明白，才兩天兩夜的時間，全軍堅守的陣地失守了。像耿庄、蒲汪、邢家樓、鳳凰橋等地，不僅相繼失守，而且損失嚴重，消耗全軍3個團的兵力。當面之敵是一群什麼樣的惡魔？莫非他們長有三頭六臂不成？盧漢要到前線去觀察了解一下，看看能不能找出癥結來。
盧漢將軍去前線的時候，正是第182師在後堡這個地方打得最殘酷的時候。他從炮兵的觀測鏡里觀察前沿，在一個叫火石埠的陣地上，第60軍的1個營被敵炮轟擊了一天不說，日軍還使用燒夷彈，使整個後堡徹夜大火。據報陣地上只剩百十人了，況且彈藥也已消耗殆盡。師指揮部立即派特務連上去，連夜把槍支彈藥送上去。
第60軍的武器是從越南過來的，全是法國最新武器。他們來到抗戰前線，才把箱子打開，嶄新的槍支彈藥是沒有問題的。盧漢問師指揮所，問題出在什麼地方？下級軍官說，部隊缺乏反坦克武器，日軍坦克、裝甲戰車多，前線部隊為了炸一輛坦克要犧牲七八條人命，甚至更多。
盧漢一下子明白了，當前的日軍是機械部隊，不僅有飛機、大炮，在地面還有成群結隊的坦克、裝甲戰車，而我軍除有迫擊炮、高射機槍、輕機槍、重機槍外，就沒有別的了，這些武器難以對付坦克這類的鐵甲戰車。
在後堡陣地失守以後，盧漢召集前線指揮員召開緊急會議，對當前這一系列的戰鬥作了總結，並研究制定了新的作戰方案，這為後來的戰鬥奠定了勝利的基礎。