早在徐州戰場激戰正酣之時，日本大本營就已經開始籌劃在中國腹地武漢地區的會戰。大本營經過測算後認為，如果進攻武漢至少需要軍費32.5億日元，且必須增兵40萬人和新編兵團24萬人。儘管內閣政府對攻佔武漢充滿矛盾和猶豫，但軍方再次發言：「攻佔武漢是迫使中國屈服、結束中國事變的最後機會。」
人口超過200萬的武漢是當時中國第二大城市。南京陷落之後，國民黨政府名義上雖西遷重慶，但政府機關大部、軍事統帥部和各國駐華使節均留在武漢，武漢實際上已經成為當時中國政治、軍事、經濟中心和戰時首都。正因為此，大本營認為攻佔武漢具有多重意義，政治上可以一舉搗毀中國的抗戰中樞，把國民黨政府再往西趕，使其徹底淪落為一個地方政權，日本就可以藉機扶持新的漢奸政府。軍事上，可以一舉殲滅從華東、華北戰場退守到這一地區的國民黨軍主力，使中國徹底喪失進一步抵抗的核心力量。從經濟方面而言，武漢的丟失將使國民政府失去湖南、湖北的糧倉和內地最大的經濟中心，從而完全喪失自給能力，也會減弱粵漢鐵路的軍事和經濟價值。攻取武漢，真可謂是一舉數得。
無奈之下，日本於1938年6月15日御前會議正式決定發動武漢會戰，迅速攻佔武漢地區迫使中國政府徹底屈服。會議決定「集中國家力量，以在本年內達到戰爭目的」，「結束對中國的戰爭」。裕仁特彆強調，不願再見到「帝國雄獅百萬受制於中國」。
大本營據此制訂武漢會戰的作戰計畫：針對國民黨軍沿長江兩岸防禦極其薄弱的實際狀況，以主力沿長江兩岸西進攻取武漢，同時以一部沿大別山北麓西進作為策應助攻方向。這一方案的突出優點就是能夠充分利用長江發揮日軍的海、空優勢，便於利用水路進行補給。但其明顯的缺點是：長江兩岸水網密集，湖泊池塘星羅棋布，不利於日軍機械化部隊機動優勢的發揮。更重要的是，日軍兩路攻擊都是自西向東推進，即使能夠順利佔領武漢，也只能迫使國民黨軍主力再次向西撤退，無法對其實施真正的圍殲。
1938年6月18日，日本大本營正式下達了攻取武漢的作戰命令。7月4日，大本營下令編組新的第十一軍與第二軍一起編入華中派遣軍，華中派遣軍司令官仍然由畑俊六陸軍大將擔任。華中派遣軍的作戰計畫是，以派遣軍直轄的五個師團分別擔任上海、南京、杭州等地區的警備任務，鞏固後方。以新到任的第十一軍軍長岡村寧次率領五個師團和波田支隊沿長江兩岸實施主攻。第二軍軍長東久邇宮捻彥親王率領四個師團擔任大別山北麓的助攻任務。參加武漢會戰的兵力共9個師團，另外還有海軍艦艇120艘，飛機400多架，總兵力約25萬人。加上後來陸續加入會戰的部隊，日軍參戰兵力超過了30萬人。
至此，侵華日軍總兵力達到前所未有的頂峰。陸軍新擴建的10個師團中，除了第二十三師團（諾門坎戰役的主角）和第一〇四師團被配屬在中國東北地區之外，其餘8個師團全部進入關內。到1938年7月，日本陸軍主力共34個師團另6個旅團，總兵力約90萬人。除了在本土、朝鮮和駐台灣的三個師團和半個旅團之外，其餘全部來到了中國大陸戰場。包括關東軍在內，侵華日軍人數達到了82.5萬人，占日軍總兵力的91％。
敵軍攻佔武漢的戰略意圖已經顯而易見，國民黨政府當然也不會無動於衷。為了迎接即將到來的武漢會戰，國民黨政府軍事委員會立即著手對位於武漢南北區域的國民黨軍進行調整。國民黨軍的總體作戰構想是，堅持持久戰和消耗戰，利用武漢周邊的湖泊河網地帶儘力實施積極防禦作戰，固守時間越長越好，同時把中國軍隊的兵力消耗控制在戰後可以恢複的額度之內。
6月7日，國民黨政府軍事委員會擬定了《保衛武漢作戰計畫》，指出「欲確保武漢，應戰於武漢之遠方，守武漢而不戰於武漢」。這種部署不僅有利於抵抗日軍的進攻，而且利於武漢地區人力、物力、財力之轉移，的確不失為明智之舉。其中心思想是：立足外線，保持部隊的高度機動性，利用地形和工事逐次抵抗消耗日軍，以空間換時間，最後轉變敵攻我守的戰爭態勢。為了更好地貫徹上述作戰意圖，蔣介石親自出任會戰總指揮，調集第五戰區、第九戰區全部兵力和海空軍，沿大別山、鄱陽湖和長江兩岸有利地形組織防禦，準備持久作戰。國民黨軍的具體作戰部署如下。
第九戰區司令長官陳誠指揮27個軍負責長江南岸的作戰：
第一兵團薛岳所部防守南潯線，以外線之勢擊破西進日軍，防止日軍進攻南昌及迂迴長沙；
第二兵團張發奎所部沿江構成陣地帶，確保九江至瑞昌線正面；
湯恩伯軍團部署於各重要據點之間，以便隨時策應一線作戰。
第五戰區司令長官李宗仁（期間因病由白崇禧短期代理）指揮23個軍負責江北作戰：
第四兵團李品仙所部為右翼，利用長江北岸大別山南麓丘陵湖沼的有利地形遏敵取捷徑攻略武漢；
第二十一集團軍廖磊所部為中央兵團布置於太湖、潛山西北山地，相機南下側擊西進之敵；
第三兵團孫連仲所部為左翼兵團部署於大別山北麓與淮河之間，意在阻敵迂迴武漢之北；
第二十四集團軍韓德勤所部擔任敵後游擊；
第二十九集團軍王纘緒所部為二線兵團，隨時策應一線各部作戰。
除了直接參加會戰的兩大重兵集團，另以第一戰區部隊在平漢鐵路鄭州至信陽段以西地區防備華北日軍南下，第三戰區部隊在安徽蕪湖、安慶間的長江南岸和江西南昌以東地區防備日軍經浙贛鐵路向粵漢鐵路迂迴。
參加會戰的國民黨軍總計14個集團軍、47個軍、120個師，總兵力約75萬人。加上後來逐漸加入會戰的部隊，總兵力達到了110萬人。另外，中國海軍殘餘的40餘艘艦隻全部參戰，僅有的空軍戰機約220架也悉數到場。
為了儘可能縮短西攻武漢的距離，早在1938年5月29日，日本大本營就命令華中派遣軍與海軍協同攻取安慶、馬當、湖口及九江等地，作為進攻武漢的前進基地。
首先拉開武漢會戰序幕的是日軍的台灣混成旅團，這支士兵大部分由台灣人組成的先遣部隊，由於旅團長為波田重一少將被稱為波田支隊。6月11日，約8000人的波田支隊趁雨夜突襲佔領安慶，之後繼續搭乘海軍艦艇沿長江西進，6月下旬抵達江防要塞馬當。
由德國軍事顧問設計、斥巨資修建的馬當要塞是阻攔日本西進的第一個堅固堡壘。蔣介石認為它至少能擋住日軍一個月左右。可惜守衛要塞的第十六軍軍長李韞珩竟然在這節骨眼上舉辦了一個為期兩周的「抗日軍政大學」，還要求所有的軍官必須參加6月24日的結業典禮。得到情報的日軍趁此機會發動偷襲，很快攻佔了要塞的外圍陣地。奉命增援的第一六七師師長薛蔚英選擇了一條最難走的小路，導致要塞很快被日軍攻克。隨後，國民黨軍第十六軍和第四十九軍對要塞的反攻無疾而終。原指望堅守一個月的馬當要塞竟然在幾天內就丟了，老蔣除了大罵陳誠一頓之外，還將第十六軍軍長李韞珩撤職查辦，第一六七師師長薛蔚英更以「畏敵如虎、貽誤戰機」之罪名執行槍決。
隨後，波田支隊與前來增援的日第一〇六師團合力於6月28日攻克彭澤。國民黨軍駐守湖口的李漢魂第六十四軍奉命反攻彭澤，可惜反攻未果，反被日軍趁勢在7月4日攻佔了湖口。稍作休整的日軍，隨後於7月26日攻克了江西重鎮九江。
之後，日軍兵分兩路。波田支隊和海軍陸戰隊搭乘海軍艦艇繼續沿江西進，攻擊下一個戰略要點瑞昌。8月11日，波田支隊遭到國民黨軍第十二軍和湯恩伯第三十二軍團的頑強阻擊。8月24日，日增援部隊第九師團第六旅團與波田支隊合力攻佔瑞昌。
8月27日，波田支隊和第九師團在瑞昌以西地區沿長江西進衝破中國守軍的層層堵截，苦戰近一個月，於9月24日攻克富池口要塞，打開了通向武漢的水上通道。之後，波田支隊沿長江南岸繼續攻擊前進，一路突破國民黨軍的阻擊。10月21日佔領大冶，22日攻佔鄂城，到10月24日已經推進到離武漢只有30公里的葛店。
在波田支隊南側的日軍第九師團則先後突破國民黨軍第五十三軍和第三十二軍團的防線，於10月24日推進到武昌以南的賀勝橋地區，再往南側的第二十七師團與第九師團並駕齊驅於10月24日到達咸寧地區。
從九江與波田支隊分手的第一〇六師團沿南潯路向德安方向挺近。7月26日，在攻擊德安的過程中遭到國民黨軍頑強阻擊，遭受重大傷亡。岡村寧次命第一〇一師團從湖口橫渡鄱陽湖實施增援，協同第一〇六師團企圖攻佔德安，奪取南昌，以保障西進日軍的南側安全。這兩個師團都屬於日軍中的「特設師團」，除了主要軍官之外，士兵基本上都