板垣師團長接到作戰部隊的報告，說是中國守軍放棄前沿陣地，退縮到臨沂城下，以臨沂為依託，在城外構築工事陣地。板垣征四郎同時又接到來自軍部的情報，得知國民黨第59軍正在朝臨沂方向增援。富有作戰經驗的板垣征四郎笑了，他知道正面的中國守軍部隊收縮防線，是在等待援軍。
他展開作戰地圖，同梅津參謀長一道比畫著第59軍同臨沂的距離，180里路，少說也得3天。就憑中國軍隊的兩條腿，它能有多快？再說他們一貫懶散，拖拖拉拉，走到不到一半的路程時，恐怕臨沂就完蛋了。因此日軍沒把中國軍隊的增援當回事，認為遠水解不了近渴。
從龐炳勛收縮戰線來看，他已到山窮水盡的地步。如果有力量，又知道有援軍，從軍事常識上來說，是不該放棄外線陣地的。在前沿陣地堅守，等待援軍，比退縮固守更安全。那麼龐炳勛的收縮退守，表明他兵力不支，即使堅守，也不過是強弩之末。板垣征四郎的分析沒有錯，但他低估了龐炳勛這支雜牌隊伍的堅韌和頑強。
日軍第5師團決定在中國援軍沒有到達之前一鼓作氣拿下臨沂。隨後再以師團主力摧垮送上門來的第59軍，佔領臨沂後，還可以順便吃掉另一支雜牌軍。用中國話說，這叫摟草打兔子——順捎的。梅津參謀長不愧是個中國通，他連這句歇後語都知道。
於是，板垣師團又向進攻的日軍作戰部隊增兵，妄圖以絕對優勢的軍事力量消滅臨沂守軍。
日軍對臨沂的進攻比前兩天更為兇猛，飛機全天候轟炸、掃射，大炮射向臨沂守軍陣地上的炮彈像冰雹一樣密集。一時間塵土飛揚，天昏地暗。但是龐炳勛的第3軍團全體將士沒有一個吭聲的、喊痛的。對這場戰鬥，第五戰區李宗仁在他的回憶錄里這樣寫道：
敵軍以一個師團的優勢兵力，並附屬山炮一團、騎兵一旅，向我龐部猛撲。我龐軍團率其五糰子弟兵據城死守。敵軍窮數日夜的反覆衝殺，傷亡枕藉，竟不能越雷池一步。
當時隨軍在徐州一帶觀戰的中外記者與友邦武官不下數十人，大家都想不到以一支最優秀的皇軍，竟受挫於名不見經傳的支那雜牌部隊。一時中外哄傳，喝彩聲四起。板垣征四郎顯然因顏面關係，督戰尤急。我臨沂守軍漸感不支，連電告急。
那時的戰鬥場面，慘不忍睹。守軍陣地大多被夷為平地，血肉橫飛，傷亡慘重。日軍集團式衝鋒，蜂擁突進陣地。全軍團所有人都拿起武器同敵人進行肉搏，雙方寸土必爭，在守軍防線上形成拉鋸戰。
板垣師團開始的時候輕視中國軍隊的實力，只派1個旅團，後來又增加1個旅團。現在竟派師團主力，想在較短時間裡打下臨沂。第3軍團毫不畏懼，浴血奮戰，堅強抵抗。戰場上你來我往，形成交織狀態，這讓狂妄之極的板垣征四郎急得像條瘋狗，嗷嗷叫著不知咋辦才好。
就在臨沂難以支撐的時候，張自忠的第59軍到達了臨沂西郊附近。兵貴神速！張自忠反覆強調「快」字，援軍如救火，不快不行。從嶧縣到臨沂，相距90公里，第59軍攜輜重等只用了一晝夜，於3月12日到達，下午全軍集結完畢。
59軍快速挺進，這讓日軍第5師團萬萬沒有想到。當張自忠到達臨沂時，日軍並不知道。他們還在部署第二天的攻擊計畫。第59軍為了快速，先是以第38師為前衛，不帶重武器，目的是先期到達，佔據有利地形。其後跟進部隊攜帶少量輜重，在前衛的掩護下，為第二批抵達。最後是全軍的裝備，於下午全部到達。
張自忠同龐炳勛是在第3軍團指揮部見面的。他倆曾同屬馮玉祥領導的西北軍。龐炳勛比張自忠資格老，官銜也要高。在1930年發生的蔣介石同馮玉祥、閻錫山之間的中原大戰時，龐炳勛是反蔣軍第2路的總指揮，而張自忠只是第6師的師長。
關於張自忠同龐炳勛的臨沂會面，時任第3軍團副官處長的李鳳鳴寫文章回憶說：
張將軍到達臨沂師範軍團部，天已薄暮，前線戰鬥轉趨激烈，忽然敵方炮彈從頭上飛過，機槍聲也清晰可聞。指揮若定的龐炳勛將軍迎出門來，張、龐兩人急忙握手，久久沒有放開。當他們進入辦公室尚未坐定，突有炮彈飛落院中爆炸。龐對張說：
「藎忱老弟來得正好，你看這裡多熱鬧！」接著又說：「上午徐祖詒參謀長在電話里問我還有多少預備隊？我的部隊都在前線傷亡殆盡，現在補充團擔任九曲店附近的作戰，連我的警衛都增援到第一線，再有就是我了。不過我決定在臨沂保衛戰中和敵人拼戰到底。」張自忠聽了以上的話笑起來，從容地說：「大哥你放心，我決心儘力幫你打贏這一仗。」
雖然正在戰鬥緊張的氣氛中，老友會師戰地，生死以之，仍然談笑風生。龐忽然幽默地微笑說：「老弟呀，人家說你要在北平當漢奸，我才不相信呢。記得我們在北平和宋明軒曾通電全國，寧為戰死鬼，不做亡國奴。所以我大為放心。」
張將軍大笑說：「今天倒要讓他們看看我張自忠是不是漢奸？」
龐炳勛說張自忠的這段故事，在李宗仁的回憶錄里講得很清楚，他是這樣說的：
張自忠原為宋哲元第二十九軍中的師長，嗣由宋保薦中央，委為北平市長。七七事變前，敵人一意使華北特殊化，張以北平市長身份，奉宋氏密令，與敵周旋，忍辱負重，外界不明真相，均誤以張氏為賣國求榮的漢奸。七七事變後，張氏仍在北平城內與敵交涉，因此輿論界對其攻擊尤力，大有「國人皆曰可殺」
之慨。
張自忠將軍非常氣憤，即使是渾身長滿嘴都說不清楚。於是，他到南京請罪，企圖說明真相。不料南京輿論界又指責他是擅離職守，不事抵抗，籲請中央嚴予懲辦。軍委會中，也有主張組織軍法會審，更有不逞之徒，在中央推波助瀾，想乘機收編張自忠的部隊。
李宗仁那時剛到南京，聽了張自忠的陳述後，便為他說情。先找了軍政部的何部長，進而又找到蔣委員長，他對蔣委員長說：「張自忠是一員忠誠的戰將，絕不是想當漢奸的人。現在他的部隊尚全師在豫，中央應該讓他回去帶他的部隊。聽說有人想瓜分他的部隊，如中央留張不放，他的部隊又不接受瓜分，結果受激成變，真去當漢奸，那就糟了。我的意思，倒不如放他回去，戴罪圖功。」
委員長沉思片刻，遂說：「好罷，讓他回去！」說畢，立刻拿起筆來，批了一個條子，要張自忠即刻回到本軍中，並編入第一戰區戰鬥序列。至1938年2月，淮河前線吃緊，于學忠兵力不敷，軍令部乃將59軍調來五戰區增援。
李宗仁在他的回憶錄中說到張自忠這段往事的時候，還說了一件鮮為人知的事，那就是張自忠與龐炳勛之間的宿怨私仇。國內在編寫《徐州會戰》一書時，幾個版本都提到這段往事，但全出自李宗仁回憶錄一書。他在回憶錄中是這樣講述這件事情的：
原來在民國十九年，蔣、馮、閻中原大戰時，龐、張都是馮系健將，彼此如兄如弟。不意龐氏受蔣的暗中收買而倒戈反馮，且出其不意襲擊張自忠師部，張氏幾遭不測。所以自忠一直認為炳勛不仁不義，此仇不報，誓不罷休。自忠此次奉調來徐時，便私下向徐參謀長陳述此一苦衷，表示在任何戰場皆可拼一死，唯獨不願與龐炳勛在同一戰場。因龐較張資望較高，如在同戰場，張必然要受龐的指揮，故張不願。好在原定計畫中，已調他去淮河戰場。
天下事真是無巧不成書，淮南敵軍主力適於此時被迫南撤，淮河北岸軍情已經緩和，獨於此時，龐炳勛在臨沂被圍請援，而我方除五十九軍之外，又無兵可調。徐參謀長頗感為難。我聞訊，乃將張自忠請來，和他誠懇地說：「你和龐炳勛有宿怨，我甚為了解，頗不欲強人之所難。不過以前的內戰，不論誰是誰非，皆為名譽的私怨私仇。龐炳勛現在前方浴血抗戰，乃屬雪國恥，報國讎。我希望你以國家為重，受點委屈，捐棄個人前嫌。我今命令你即率所部，在臨沂作戰。你務要絕對服從龐軍團長的指揮。切勿遲疑，致誤戎機！」
自忠聞言，不假思索，便回答說：「絕對服從命令，請長官放心！」
關於這個事情的真實性的問題，龐炳勛的40軍副官處長李鳳鳴曾撰文說，可能是把中原大戰時，在河南隴海線上的鞏縣黑石關韓復榘曾攻襲龐炳勛部一事「張冠李戴」了。他在回憶臨沂之戰時說：
師克在和不在眾，兵貴神速，尤貴能出奇制勝，我軍反攻，由策定計畫下達命令到攻擊行動僅數小時，可見龐、張兩將軍求勝一致的決定，是本乎軍人的天職，能和衷共濟忠於國家的精神。筆者隨龐將軍任職甚久，對過去史實記憶猶新，龐、張從無恩怨，而中樞統帥部是因人善用，絕非無軍可派增援臨沂。今張、龐均已作古，國人不可誤解，使龐、張兩將軍地下難安。
第40軍副官處長李鳳鳴的講述也有一定道理，如果張自忠同龐炳勛有這麼大的恩怨，他們怎麼會在抗戰前夕同宋哲元等一道在北平通電全國，誓