前面提到的第3軍團115旅朱旅長和黃副旅長率兩團增援莒縣，在莒縣同板垣師團的田野旅團進行激戰，而後擺脫敵兵的尾追，沿沭河兩岸撤退到臨沂東面的相公庄一帶進行休整。
田野旅團是不會善罷甘休的，他們焚燒完日本兵的屍體，便跟著追了上來。一直朝第3軍團的前進陣地湯頭逼進。3月3日便開始同守衛在湯頭陣地上的116旅的232團接上火了。
戰火一開，直接進入白熱化的階段，中間沒有絲毫的過渡。十幾架飛機轟炸掃射，密集的排炮射擊，炮彈在守軍陣地上掀起一層層泥沙，十幾輛坦克和裝甲戰車轟轟隆隆地推了過來。第116旅的官兵沒有畏懼，他們堅守在陣地上，用手榴彈炸坦克，拿機關槍掃射戰車身後的步兵，用最原始的武器同日本機械化部隊拼殺，竟然在湯頭陣地堅守了三四天的時間。
臨沂城的老百姓能出動的全都出動了，他們冒著日軍的炮火給自己的部隊運軍火、送水送食品、救護傷員。青年學生組織戰場救護隊，為傷員包紮傷口，義務獻血。山東人民的英勇行動，激勵著前線的戰士。前線將士不怕犧牲的精神，同樣感染著臨沂的百姓。他們共同組成一道抗擊侵略者的銅牆鐵壁，用生命和鮮血保衛著自己的家園。
第116旅232團損失慘重，傷亡2\/3。軍部命令放棄湯頭，撤到後方休整待命。湯頭撤守，後面的白塔陣地吃緊。軍部命令守衛在那裡的116旅的231團堅守住，一定要死死地拖住、頂住田野旅團主力的進攻。龐炳勛命令從垛庄趕回來的補充團從葛溝以北抄襲敵人的右側背，又命令相公庄115旅的第229團沿沭河東岸抄襲敵人的左側背，兩團的抄襲要快要狠。
抄襲後路的兩團官兵在各級長官身先士卒的帶動下猛衝猛打，像拚命三郎，讓兇惡的日軍無法招架，中國軍隊左右包圍，日軍只好放棄白塔一帶被佔領的村莊，撤回湯頭鎮去。守軍收復湯頭以南陣地。
田野旅團在湯頭鎮等到了援軍，前來增援的是坂本旅團的一部，約有5000人馬，還配置有大炮30餘門，坦克20餘輛。兩個旅團會合在一起，於3月9日在田野旅團長的指揮下，又向臨沂守軍發動進攻，企圖強行通過臨沂，向台兒庄進發。
從日軍進攻的形式上就可以看出，他們根本沒把對面的守軍當一回事兒，沒有什麼戰術不戰術的，就是天上飛機，地上大炮坦克。兩個旅團像一群大馬蜂，集團式地壓過來。
日軍的這個戰法，事前龐炳勛就預料到，驕兵，必然表現自己的架勢，他們不會膽小謹慎，而是集團式地一窩蜂朝你撲來，從精神上壓垮你。所以第3軍團要堅守臨沂，必須針鋒相對，也把家底亮出來，抵擋住這股洪水猛獸，否則便會一敗塗地。只要能抵擋這股勢頭，就能把敵人扼制住。
他在指揮部命令116旅死守正面，115旅為右翼，其餘的部隊為總預備隊。各部務必死打硬拼，把陣地堅守住。
徐州的李宗仁長官也知道臨沂的情況，他來電指示，臨沂為徐州屏障，必須堅決保衛，拒敵前進。已命張自忠第59軍前往增援，並派本部參謀長徐祖詒前往臨沂。
臨沂保衛戰打得太慘烈了。
第116旅的正面陣地上，整排整連甚至整營的戰士倒下去了。守軍陣地不斷被日軍突破，雙方在陣地前的肉搏戰都很兇狠，屍體累累。龐將軍在指揮部里拄著拐棍不停地走動，前沿陣地吃緊，他不僅將自己的衛隊送上了第一線，而且連馬夫、伙夫、擔架兵、運輸兵都投入進去了，凡是能拿槍的活人全部上了戰場。
龐炳勛跨出房門，站在司令部的院子里，周圍槍炮聲很刺耳，成群結隊的飛機俯衝掃射，朝守軍陣地狂轟濫炸，濃煙四起。在他的院子里，不時飛來敵機掃射的子彈，打在牆上發出咚咚的聲響。龐炳勛一動不動地佇立著，目不轉睛地凝視著前方。
幾名貼身衛士用身體擋住龐將軍的身子，他們請求軍團長進防空洞避一避。龐炳勛推開他們，都什麼時候了，有什麼好避的？你們都給我過河作戰去。他把拐棍朝前指著說，一個都不要待在這裡。
4個衛士不動步，他們仍護著龐將軍。龐炳勛把拐棍敲在地上，走呀！怕死嗎？誰是孬種我先槍斃誰！他大聲呵斥道。衛士嚇一跳，龐將軍平時對他們可好了，很和氣，愛兵如子。今天這是怎麼了？當然他們心裡也明白，不到萬不得已的地步，將軍是不會這樣的。4個衛士向龐炳勛跪下，算是行了個告別禮，異口同聲說，將軍多保重。
幾十年的戎馬生涯，龐炳勛還是第一次遇到如此惡劣的大戰，也是他第一次下這樣的狠心和決心。要是放在軍閥混戰那陣子，他早帶著隊伍轉移了。現在不行，轉移到什麼地方去呀？外國列強都打到你的門上了，作為一名軍人，能丟下你的父老鄉親不管嗎？任何一個有良心的中國人、任何一個有血性的軍人都不會這樣做。
司令部只剩龐炳勛一個人了，他把自己的戰刀從刀鞘里抽出來，擺放在案桌上，他看著雪亮的刀刃，悲壯地笑了起來。這時桌上的電話鈴響了，是前線總指揮馬法五打來的，他在電話里大聲嚷道，敵人的進攻太猛烈了，正面已經頂不住了，你看怎麼辦呀？
馬法五！龐炳勛大吼一聲說，司令部現在只有我一人。好呀，我拄著拐棍到你那裡去行不？
我這裡已經沒有人了！馬師長哭喪著嗓子說。
龐炳勛也是萬分焦急，他無法控制自己，粗暴地說，沒人了你自己上，丟了陣地別回來見我！吼完這句話，他把話筒狠狠地摔在了電話機座上。
這回完了，龐炳勛想，5個步兵團這回要拼光了，不快點想想辦法看來真是不行了。他圍著電話機猶豫起來，真想給徐州第五戰區的李長官掛個電話，請求他速派救兵。但是，他拿起電話，只把話筒在手裡握了握，便又放下了。作為一個軍團長，第五戰區全局的情況多少是知道的。眼下滕縣方向也處在危急之時，津浦南北戰線都在廝殺。他李宗仁也是無能為力的，不可能抽出援兵來解救臨沂的。
龐炳勛這回真是死心了，他用電話向前線各指揮部發出死命令，打完拼光，堅持到最後一人。誓同臨沂共存亡！他把死命令發出後，心裡倒輕鬆起來。人不過一死，李宗仁長官說得對，為國犧牲值得！
前沿陣地斷絕等待援兵的念想，他們全都豁出去了。第3軍團的作戰部隊不僅打得頑強，他們還很機智，不是魯莽地死打硬拼，還動了不少腦筋。在敵人大炮轟炸、飛機掃射的時候，他們並不作無謂的犧牲，而是進掩體，鑽防空洞，注重保護自己。大炮停止，飛機走後，他們一個個又回到陣地。
李振清的補充團堅守在葛溝陣地上採用靈活機動的戰術打擊進攻的敵人。像第2連，在遭受日軍300多人的9次衝鋒時，連長犧牲了。1排長任連長後又犧牲，2排長再任連長。他們在沒有得到上級任命時，主動承擔指揮任務，致使全連各排協調作戰。
排長李宗岱就是在火線上升任第2連連長的。王連長犧牲，李玉亭任連長。李玉亭連長在敵人第6次進攻時犧牲了。李宗岱站出來當連長，他大吼一聲，全連聽我指揮。敵人騎兵過來了，瞄準馬頭，打！他一聲令下，機槍步槍一起吐著火舌，密集地射向敵人的騎兵。前面的大洋馬倒下，絆倒後面的馬，騎兵的陣腳被2連打亂，被迫在彈雨中奪路逃竄。
李宗岱抓住這個縫隙，組織五六十人的敢死隊，利用地形，在朦朧的夜色下，迂迴到日軍進攻部隊的中間，出其不意地攔腰來了個突襲。他們衝進去朝前朝後猛擲手榴彈，在日軍機槍陣地奪得一挺歪把機槍和兩箱子彈。敢死隊員打完手榴彈，抽出背上的大刀，一個勁兒地向敵人頭上猛劈。敵人猝不及防，他們根本沒想到中國軍隊會這般英勇，一時竟亂成一團，抱著頭向後潰逃。李連長見出擊取得很好的效果，還有不少繳獲，馬上撤回陣地。等敵人明白過來的時候，第2連的敢死隊已經返回陣地了。
補充團第2連的勝利，後來還得到軍團長龐炳勛的嘉獎。李宗岱連長後來在回憶文章中很自豪地描述了這個戰例。當然，在後來的戰鬥中，他的第2連只剩下20多名戰士。但是他們堅守的陣地，沒有被敵人突破。
正當龐炳勛的第3軍團與日軍在臨沂外圍激烈爭奪，臨沂面臨滅頂之災的危急關頭，第五戰區司令長官李宗仁電令張自忠的第59軍火速增援臨沂，同時把這個消息致電龐炳勛。
決心打光拼光的龐炳勛接到李長官的電報後大喜，他用手指沿著地圖上的線條尋找著張自忠將軍的位置。遠是遠了些，但遠水是可以解近渴的，關鍵是看誰來為你送水。援兵是第59軍，那是張自忠率領的。龐將軍對身邊的參謀說，張自忠我還不了解嗎？要是換了別人我不敢說，是他這個小老弟，讓我吃了顆定心丸。
龐將軍命令收縮防線，重新調整部署，把115旅放在城郊桃園至蔣家莊一線，調116旅防守蔣家莊至黃山一線，其他部隊控制縣城城關地區，算是