日軍攻佔南京後，在南北戰場取得暫時勝利的基礎上，重新制定了對華政略、戰略，決定進一步加強軍事力量和扶植傀儡政權，企圖軍、政兩手並用，迫使國民政府屈服。
1938年1月16日，日本近衛內閣公開發表《不以國民政府為對手的政府聲明》，並建立對華長期戰爭體制。但「當時日軍的武器、彈藥，器材等嚴重短缺，只有在增設兵團、休整部隊、嚴肅軍紀後，才能進行大規模的作戰」。為此，日本政府採取一系列政略、戰備措施，實行總體戰體制，「傾國家全力遂行戰爭」。進一步擴大軍事力量，大本營決定在1938年「上半年新成約11個師團」，並儲備50個師團基數的武器、彈藥、器材，將軍工生產提高到120個師團基數和3500架飛機，到1940年建成60個正規師團、30個暫編師團、250個飛行中隊。制定1938年的戰略方針，在完成「實質性的準備」以前，「採取純消極持久戰方式，把國力特別是軍力的消耗，減少到最低限度」。同時，在佔領區加速建立傀儡政權。在北平成立「中華民國臨時政府」，在南京成立「中華民國維新政府」，企圖以此「促使蔣介石政權實質性的崩潰」。
1938年2月14日，日本大本營下令撤銷華中方面軍、上海派遣軍和第110軍的3個司令部，建立華中派遣司令部，統一指揮華中日軍。由於華北方面中國共產黨領導的游擊戰爭不斷發展，「後方地區治安不穩」，為加強華北兵力，先後將第5師團的第9旅團、第16師團、第114師團調至華北。
南京失守後，國際形勢發生變化：德國駐華大使陶德曼中日和談調停失敗，一向與國民政府關係密切的德國，清洗了較為傾向與中國友好的國防部長勃洛姆堡元帥、外交部長牛頓特男爵和經濟部長沙赫特博士等，任命一貫主張與日本結盟的里賓特洛甫為外文部長，於1938年2月正式承認「滿洲國」。英、美、法等國人民群眾雖然同情、支持中國抗戰，但其政府不肯為中國得罪日本，均持觀望態度。美國總統羅斯福雖然曾在芝加哥發表了「隔離」演說，不指名地警告日本，但中心要點是警告日本不得違背九國公約規定的各國在華「機會均等」及「中國門戶開放原則」，而不是譴責日本對華侵略。在國際上，只有蘇聯的斯大林為了利用中國「來對付日本人」，「緊緊束縛住日本的手腳」，以便「在德國一旦進攻蘇聯時，能避免兩面作戰」，積極援助中國政府抗戰。至1938年2月，賣給中國飛機約200架和裝備20個師的武器、彈藥，並派遣志願飛行員及軍事顧問、教員等。
面對上述情況，國民政府在政略、戰略上採取一系列措施，重新組織抗戰：接受中國共產黨的一部分意見，制定《抗戰建國綱領》，實行全面抗戰；開始執行「持久消耗戰」的戰略方針。此方針雖然早已制定，但從七七事變至南京失守，國民政府軍隊實際執行的是以陣地消耗敵人，在戰役上爭取持久的方針，戰略上仍幻想迅速結束戰爭。經過半年的抗戰，最高軍事當局既認識到國際干涉和和平談判短期內不能買現，中日戰爭確已形成持久之勢，又接受了華北、滬京作戰的沉痛教訓，開始轉變戰爭指導，由單純固守陣地、據點進行死拼的戰役持久，改為不強調「一城一地之能否據守」，「以空間換時間」的戰略持久。白崇禧說過：在南京失守後，「我們戰略之應用，確已改變方針，不復與敵人在一點一線上爭奪」。雖然實踐證明，這一戰略方針仍帶有一定的片面性和消極性，但與前一段所執行的方針相比，已大大前進了一步。
為適應持久抗戰的需要，1938年1月17日，國民政府改組軍事委員會，撤銷大本營，重新任命委員。同時還整飭軍紀，懲治了一批臨陣脫逃的高級將領。抗戰以來，「所有前線的軍隊，不論陸軍、空軍和地方部隊，都進行了英勇的抗戰，表示了中華民族的英雄氣概」，但也有少數高級將領，或因膽小怕死，或為保存實力，對敵望風而逃。第五戰區副司令長官，第3集團軍總司令韓復榘，表現尤為惡劣，防守津浦鐵路北段，手握重兵，未戰先退，致日軍輕易地渡過黃河，佔領大半個山東。1938年1月11日，蔣介石在開封召開第一、第五戰區高級將領會議，將韓免職查辦，送至武漢，以擅自撤退罪處以死刑。1月20日，軍委會明令嘉獎抗戰犧牲的郝夢齡軍長、佟麟閣副軍長等5人，並撤職查辦和槍決了41名作戰不力的旅長以上將領，「給保存實力，怠於作戰的軍官以極大震懾，前方士氣，為之一振」。
蔣介石將韓復榘免職後，令第12軍軍長孫桐董代理第3集團平總司令。17日會議上，向第一、第五戰區高級將領闡述了他以武漢為防禦核心的現階段戰略方針。他說：「我的戰略是什麼？簡單明了他講起來，就是東面要保持津浦路，北面要保持道清路，來鞏固武漢核心的基礎。」軍委會據此制定了作戰指導方案：「國軍主力控制武漢外圍及豫皖邊區，積極整補，由華北及江南抽調出有力一部，加強魯中及淮南，積極襲擾，誘敵主力於津浦鐵路方向，以遲滯敵人之過江西進；並廣泛發動華北游擊戰，牽制消耗敵人、妨害其南渡黃河，直衝武漢。」為貫徹這一方案以加強津浦路防守力量，從第一、第三戰區增調第22、第24集團軍等部隊至第五戰區。此時，第五戰區司令長官為李宗仁，所屬部隊有第3集團軍（孫桐萱，轄第12、第55軍），第22集團軍（孫震，轄第41、第45軍）、第24集團軍（韓德勤，轄第57、第89軍）、第11集團軍（李品仙，轄第31軍）、第27集團軍（楊森，轄第20軍）、第3軍團（龐炳勛，轄第40軍第39師）、第51軍（于學忠）及海軍第3艦隊、地方武裝等。
日軍參謀本部雖然制定了「對華消極持久作戰」的戰略方針，準備在整頓、補充及擴大兵力後再發動大規模的進攻，並規定佔領區的限制：「華北方面，黃河以北及山東大部；華中方面，蕪湖、杭州以東江南」，「嚴禁擴大」。但日本政府的要員們，「不僅對戰爭的嚴重性認識不足」，「而且對勝利存有盲目的驕傲情緒」；特別是侵華日軍的高級將領，因迅速攻佔南京和不戰而佔領山東的暫時勝利，以為以現有兵力即可戰敗中國，迫使國民政府屈服，因而不滿大本營的決定。如華中方面軍在攻佔南京後，渡江佔領了滁縣、來安、六合、揚州等地，並企圖以2個師團沿津浦路北進，以配合華北日軍在山東的作戰，日本大本營認為準備不夠充分，兵力本已不足，若再擴大戰場，則兵力更為分散，對以後作戰不利，故未予批准。可是侵華日軍置大本營的指令於不顧，上海派遣軍命第13師團向鳳陽、蚌埠進攻，華北方面軍自1937年底以來，多次提出進行徐州作戰，以使華北與華中連結起來的要求。大本營怕「戰局擴大，兵力被牽制」，不予批准。但第2軍仍然下達了向大運河進攻的命令，企圖以既成事實迫使大本營承認他們的行動。至1938年2月上旬，南線日軍攻佔巢縣、蚌埠，企圖北渡淮河；北線日軍攻佔青島、鄒縣，在諸城，兩下店附近，與中國軍隊激戰。
此時，中國軍隊第21集團軍也由江南轉移至合肥地區，加入第五戰區戰鬥序列。第五戰區依照軍委會南守北攻的指示，於2月3日下達作戰命令。主要內容為：決心將津浦路南段之敵，拒止於淮河以南，由側方連續予以打擊；同時鞏固魯南山地。對津浦路北段及隴海路東段之敵，實施側擊，牽制其南下或西上，以拱衛徐州。令于學忠指揮第51、第31軍力第2野戰兵團，於淮河北岸布防，阻敵北進；令第11集團軍為第1野戰兵團，位於定遠西方三十里鋪至淮河南岸之間，向臨淮、蚌埠之敵側背威脅，牽制其渡河；令第21集團軍為第4野戰兵團，在合肥、張橋鎮一帶集結後，向含山、全椒前進，側擊津浦路南段之敵；令第27集團軍及安徽保安3、4團為第3野戰兵團，由楊森指揮，位於安慶以東，任江面守備，並在安慶、廬江、無錫間地區游擊，1月6日，又下達補充命令，令第3集團軍以主力向濟寧攻擊，以一部迂迴攻擊汶上；令第22軍集團軍以主力向鄒縣，一部迂迴曲阜鄒縣間攻擊，另一部控置於臨城、韓庄間；令第3軍團在臨沂附近，配合地方部隊，奪取蒙陰、泗水，爾後向泰安、大汶口間及南驛，曲阜間威脅。對日照、呂縣、沂水北方要點，派一部與海軍陸戰隊聯合扼守。
日軍第13師團於2月3日佔領蚌埠後，不斷實施強渡，企圖渡過淮河，均被剛剛到達的第51軍擊退。2月8日，蚌埠日軍約1000餘人，在航空兵及炮兵進行火力急襲後，再次強渡淮河，守軍英勇抗擊，兩次擊退日軍渡河部隊。當晚23時，日軍又進行夜間強渡，攻佔北岸小蚌埠。第113師派部反擊，激戰至9日1時，恢複了陣地。10日拂曉，日軍又一次發動強渡進攻，10時前後攻佔小蚌埠。第113師全力反擊。雙方多次反覆爭奪，終於為日軍佔領。蚌埠日軍發起進攻的同時，臨淮關日軍也發動強渡進攻，突破北岸守軍第114師的陣地。激戰至1