時間來到了1938年。新年剛過，蔣介石就宣布辭去多項兼職，專事中央軍事委員會委員長，將所有精力都專註於中國的抗戰。
戰場形勢的確不容樂觀。從盧溝橋事變開始後不到半年的時間裡，北平、天津、上海、南京、太原等一系列大城市相繼淪陷。廣大的華北地區以及富庶的滬杭地區淪落敵手，對於中國軍隊而言，必須儘快遏制戰場上的頹勢。而對於日軍而言，儘管戰場上的進程無比順利，但結束戰爭的希望卻變得遙遙無期。一系列戰術性的勝利反而導致日軍在戰略上逐漸處于越來越被動的地位。半年時間已過，日軍豪言在三個月內迫使中國屈服的戰略目標已成泡影。邊戰邊退的國民黨軍成功地將戰線拉長，持久戰的格局已經逐步形成，這是日本最不願意看到的結果。
南京陷落之後，停留在津浦路北段的日軍和淞滬地區的日本被中原分隔，打通津浦路成為日軍的當務之急。在這條鐵路大動脈上，首先進入日軍視野的戰略要點便是自古以來發生過無數次決定性戰役的徐州。對日軍而言，奪取徐州就可以將南北戰場連為一體，中國的東南沿海地區也盡收囊中。同時，從徐州沿隴海路西進就可以佔領中原重鎮鄭州，自古「得中原者得天下」，從中原腹地出發既可南下平漢路攻取國民黨政府最重要的基地武漢，也可繼續進逼西安奪取關中之地。
就戰爭本身的進程來看，日本最感困難的就是兵力不足。東京大本營認為，要徹底「解決」中國問題，至少需要60個師團的兵力。1938年1月22日，日本首相近衛文麿發表聲明，主張為使中國徹底屈服必須建立國家總體戰體制。3月，日本通過了《國家總動員法》。4月，公布撥款48億日元作為臨時軍費預算，此舉使得日本的戰爭預算已高達80億日元。
在1938年初，東京大本營和在中國前線的日軍將領對於未來的戰爭走向，再次產生了重大分歧。那就是，在中國的戰爭是否還要一鼓作氣地打下去？
在華兩大軍事集團華北方面軍和華中方面軍，早在1937年年底就多次向大本營陳述，有必要在徐州和武漢等地域展開大規模的作戰，使中國徹底喪失繼續戰爭下去的能力。但是大本營認為，在國內確保編成6個新的師團之前，首要的任務是鞏固現有的戰爭成果，絕對不能進行新的作戰。只以「增強態勢為原則」，待兵力整備完畢後，進行徹底的積極作戰，一舉解決中國問題。
攻佔南京之後，大本營對原來的華中方面軍進行了調整，更名為華中派遣軍。由於南京大屠殺在國際上造成的惡劣影響，松井石根被免去了司令官的職務，改由畑俊六陸軍大將出任華中派遣軍司令官。華中派遣軍認為，他們依靠現有的兵力，有能力沿津浦路北上，配合華北方面軍一舉攻佔徐州。寺內壽一率領的華北方面軍更是急切希望快速南下，與華中方面軍津浦路上會師。兩路日軍都堅信，南北日軍在徐州會師之日，便是中國政府徹底屈服之時。
兩路日軍決定以戰場上的既成事實迫使東京大本營屈從他們的意願，他們的戰略意圖是，華北方面軍第五師團、第十師團分別沿著津浦路和濰台公路南下為主攻方向，華中派遣軍第九師團以及第一〇一旅團沿津浦路和運河北上為助攻方向。同時，華北方面軍第十四師團南渡黃河到達魯西南，再向西直趨開封、鄭州，華中方面軍第十三師團北渡淮河之後直奔永城切斷隴海鐵路。先期殲滅在徐州附近集結的國民黨軍重兵集團，之後佔領徐州打通津浦路，各路日軍會合後再沿平漢鐵路南奪武漢。
日軍將要進攻的魯南和蘇北區域，在國民黨軍戰場劃分上叫第五戰區，司令長官就是桂系名將李宗仁。作為蔣介石一生明爭暗鬥的對手，李宗仁在1937年10月10日出任戰區司令長官職務時對蔣介石提出的唯一要求，就是委員長不能隔著他越級指揮。當此用人之際，蔣對李提出的這一要求慨然允諾。第五戰區的國民黨軍共29個師外加一個獨立旅，總兵力約28.8萬人。人數看起來似乎不算少，但是這些部隊組成複雜，川軍、西北軍、東北軍、魯軍等都有，基本上屬於國民黨軍中的三四流部隊，也就是通常所說的雜牌軍。由桂系出身的李宗仁來統一指揮，難免有不太順手之感。李宗仁當前的任務，就要用這些破魚爛蝦做出一桌可口的美味佳肴來。
1937年12月，日軍華中方面軍第十三師團北渡長江，前進至安徽池河東岸一線。1938年1月26日，第十三師團向安徽鳳陽、蚌埠一線發起進攻，遭到國民黨軍第三十一軍的頑強阻擊。2月1日，日軍佔領臨淮關。2日，佔領蚌埠、鳳陽。9日，日軍第十三師團主力強渡淮河向北岸國民黨軍發起猛烈進攻，徐州會戰自此拉開帷幕。
負責淮河守衛的第五十一軍隨即與日軍展開激戰，傷亡甚重。戰鬥最激烈的5月13日，軍長於學忠帶著所有的師長和旅長都到了戰場一線，雙方進入拉鋸戰，國民黨軍防線多處被日方突破。李宗仁急令第五十九軍緊急馳援，將傷亡慘重的第五十一軍替換下來。這個第五十九軍的軍長，就是之前被國人辱罵為漢奸，急於在戰場上一雪前恥的張自忠。同時，在淮河南岸，李宗仁以第二十一集團軍第四十八軍固守爐橋地區，第七軍協同第三十一軍迂迴攻擊日軍側後方，迫使日軍第十三師團主力由淮河北岸回援。第五十九軍、第五十一軍乘勢反攻，至3月初全部恢複淮河以北陣地。第二十一集團軍和第三十一軍旋由淮河南岸向北岸集中，雙方隔河對峙。日軍南路的進攻受阻。
南路進攻受挫之後，日軍被迫將「南北對進」改變為「南守北攻」，津浦路北段的局勢霎時間嚴峻起來。負責津浦路北段防禦的就是第五戰區副司令長官、第三集團軍總司令兼山東省主席韓復榘。
原屬西北軍的韓復榘，可不願意跟日本人拚命，這貨認為只要有錢有槍，到哪裡都可以當大爺，保存實力才是最重要的。面對北路日軍的進攻，韓復榘下令炸毀了黃河大橋，從黃河南岸撤退守軍並將財產迅速往河南轉移。得知消息的李宗仁心急如焚，迅即電令韓復榘，「各戰區守土有責，不得退入其他戰區」，韓復榘立即答覆「現在全面抗戰，何分彼此」，早把之前將馮玉祥所帶河北之兵拒之門外時所說的話忘得一乾二淨。李宗仁只能電告蔣介石，蔣介石嚴令韓復榘死守濟南。
可惜命令到達之時已經晚了，韓復榘已經放棄濟南退守泰安，日軍不戰而得濟南。老韓當然不會忘記在撤離濟南之前，將銀行里15000兩黃金、30000兩白銀以及其他貴重物品統統帶走。對於李宗仁要求韓復榘死守泰安的新命令，韓復榘再次答覆道：「蔣介石南京都不守，憑什麼讓我守泰安？」感覺泰安也不安全的韓復榘很快又退到了濟寧。李宗仁再次以懇求的語氣請韓復榘死守濟寧和運河，「哪怕是打一仗也行」。不說還好，一聽這話韓復榘直接帶人跑到河南、山東交界的巨野和曹縣附近去了。就這樣，韓復榘的10萬大軍不戰而退，先後放棄黃河天險，棄守濟南、泰安、曲阜、兗州，使得日軍一路長驅直入，高歌猛進，於1938年1月11日佔領濟寧，逼近徐州。至此，第五戰區原來的戰略部署被完全打亂。
短短20多天，韓復榘率部接連狂奔數百公里，使得日軍僅用一個半師團的兵力就佔領了大半個山東。在之後召開的開封軍事會議上，韓復榘被蔣介石以「作戰不力，抗命不遵」的罪名逮捕，隨後於1月24日在武漢執行槍決，老韓也有幸成為抗戰之後第一個被槍斃的省府主席。
韓復榘被處決之後，接任第三集團軍的孫桐萱奉命向東對濟寧等地區進行反攻，但很快在日軍的阻擊和反攻下退回原地。
北路的日軍分為東西兩路。磯谷廉介第十師團為西路沿津浦路一路南下。之前，1月10日，日本海軍在膠州灣登陸佔領了防禦薄弱的青島。13日，到達的板垣征四郎第五師團作為東路則從青島沿膠濟鐵路西進，從濰縣折向南，連陷沂水、莒縣、日照等地，兵鋒直指戰略要地臨沂。
2月21日，東路板垣第五師團開始進攻臨沂。臨時被從海州調來守衛臨沂的是龐炳勛第三軍團第四十軍。李宗仁致電龐炳勛，臨沂為確保徐州之屏障，必須死守。實力上只相當於一個加強師的第三軍團實際上只有13000人，拼了老命也無法抵禦日軍精銳第五師團的進攻，臨沂在日軍的猛攻下岌岌可危。李宗仁迅速調派張自忠第五十九軍兼程馳援臨沂。
之前馳援第五十一軍的張自忠部此時遠在淮河流域一帶，但接到命令之後立刻以最快速度向臨沂方向增援。3月12日，張部到達臨沂北郊的沂河西岸，協同第四十軍堅守臨沂，激戰五晝夜重創日軍。隨著國民黨軍第二十軍團騎兵增援部隊的到來，張自忠率部發起全面反擊，傷亡慘重的東路日軍被迫向莒縣方向撤退。
臨沂城下，以前在內戰中差點要了張自忠性命的老龐握住小張的手百感交集，老淚縱橫，上演了一出「兄弟鬩於牆，外御其侮」的佳話。臨沂之勝砍斷了津浦路北路日軍之一臂，