南昌會戰剛剛開始時，日軍第11軍司令官岡村寧次就己得到中國第一、第五戰區將向信陽、應山等地區發動局部攻勢，以威脅和消耗武漢地區日軍的情報，同時了解到，中國軍隊的主力部隊、湯恩伯的第31集團軍，己由江西豐城、樟樹地區調至江北棗陽、隨縣地區。日軍攻佔南昌，武寧，基本上解除了中國軍隊對九江及長江航道的威脅。岡村寧次決定先發制人，在日本國內新擴建的第33、第34師團增調至武漢地區，加入第11軍戰鬥序列後，於中國軍隊發動進攻之前，向隨棗地區進行攻擊，以殲滅或驅逐湯恩伯集團，鞏固武漢防務。準備使用3個師團及1個騎兵旅團的兵力進行這次作戰。
1939年4月17日，擬好作戰計畫。其作戰方針是：為確保現佔領地域，摧毀中國軍隊繼續抗戰的意志，預定於5月初殲滅武漢西北方向的中國軍隊。其作戰指導是：在主力發動進攻之前，以一部兵力對大別山南麓地區進行攻擊，以牽制中國軍隊於該地；主力在鍾祥以東向棗陽並向唐河一帶迂迴，切斷中國軍隊向南陽的退路，以殲滅其主力兵團第31集團軍的2軍於唐河以南之棗陽附近。達成作戰目的以後，除確保隨縣附近地區外，各師團迅速返回，恢複原警備態勢。要求參戰各部隊於5月初秘密集結完畢。其兵力部署是：令第3師團（為加強該師團進攻能力，另配屬1個步兵聯隊、2個野戰重炮兵聯隊、1個工兵聯隊、1個山炮兵大隊、1個迫擊炮大隊、1個機槍大隊、1個戰車大隊、2個裝甲車中隊）於4月末集結於孟畈店地區，5月初發起進攻，突破中國軍隊防線後，向隨縣以北的高城鎮、唐縣鎮攻擊前進，以牽制中國軍隊主力於棗陽東南方向；另以一部兵力向棗陽東北的新集一帶迂迴；必要時，以一部兵力由信陽向桐柏方向進擊，以切斷中國軍隊的退路。令第13師團和第16師團分別集結於鍾祥東北的黃家集和鍾祥附近，進攻開始後，兩師團突破當面中國軍隊的防線，並列向棗陽以南的吳家店和棗陽以西的雙溝前進，切斷棗陽地區中國軍隊與襄陽的聯繫。令騎兵第4旅團（為加強該旅團獨立作戰的能力，另配屬1個騎兵聯隊和1個騎兵大隊）集結於鍾祥東南的鄭家集和天門以西的多寶灣地區。進攻開始後，俟第16師團進至樊城東南的方集、大廟山一帶時，迅速超越該師團，攻擊雙溝，並向新野唐河迂迴，以形成對棗陽地區的雙重包圍，遮斷中國軍隊向南陽的退路。當第3師團進至唐縣城附近時，第13，第16師團從白河以東向右迂迴、進攻棗陽以北地區，殲滅中國軍隊主力兵團於棗陽附近。作戰目的達成後，第3師團確保棗陽地區，掩護其他部隊返回原駐地。其他部隊撤回後，第3師團除留一部兵力佔領隨縣外，主力亦返回原駐地，恢複原態勢。此外，還令陸軍航空兵第3飛行團（2個偵察中隊、1個戰鬥機戰隊、2個輕轟炸機戰隊）協同進攻部隊作戰。這一計畫的中心思想，是以第3師團在右，騎兵第4旅在左，以迂迴行動對棗陽地區形成包圍，爾後，以第13、第16師團北進，以圍殲中國軍隊之第31集團軍。
武漢會戰後，第五戰區（司令長官李宗仁）退守鄂西北及鄂豫邊境地區，將所屬部隊區分為江防軍、右集團軍、左集團軍、第二線兵團和游擊部隊5個兵團。江防軍（司令郭懺，轄第94、第26、第44軍和第128師及游擊第7縱隊，連同暫歸第九戰區指揮的第75軍，共13個師及1個游擊縱隊）擔任長江北岸至襄河（襄樊附近漢水河段）間及當陽、宜昌、江陵一帶地區之守備；右集團軍（總司令張自忠，轄第33集團軍第77、第59軍，第29集團軍第67、第55、第45軍及第6游擊縱隊，共11個師及1個游擊縱隊）擔任襄河兩岸及大洪山之守備，主力集結於宜城以南地區；左集團軍（總司令李品仙，轄第11集團軍第39、第84軍，第31集團軍第13、第85軍及第1、第5游擊縱隊，共11個師、2個旅及2個游擊縱隊）擔任桐柏山與大洪山間地區之守備，主力集結於隨縣至棗陽間地區；第二線兵團（總司令孫震，轄第22集團軍第41軍及第N9師，共4個師）控制於襄樊附近地區；游擊部隊（豫鄂皖邊區游擊總司令廖磊，轄第7、第48軍，第2、第3游擊縱隊，共4個師及2個游擊縱隊）以大別山為根據地，策應主力部隊作戰，另外，第一戰區之第68軍駐桐柏、明港一帶，主力控制於桐柏西北，可策應第五戰區作戰。1939年4月上旬，軍事委員會命令發動「4月攻勢」時，第五戰區之江防軍及左右集團軍，均曾以少數兵力向隨縣以東及安陸、應城、天門等地進行戰術性出擊；豫鄂皖邊區游擊隊亦曾向信陽、廣水、花園等處進行襲擾，均以兵力過小，效果很小。4月下旬，偵知日軍有2個新的師團增援武漢，日軍第11軍正向鄂北集中，有向戰區進攻的徵候。李宗仁遂於4月25日下令，停止「4月攻勢」，調整部署，作抗擊日軍進攻之準備。同日，制定出新的作戰計畫。其作戰方針是：「戰區決以長久保持桐柏、大洪兩山地帶，以攻為守，予敵以打擊。」其兵力部署的基本精神是：以一部兵力防守襄河，以主力配置於襄（陽）花（園）公路方面，伺機反攻，另以一部兵力配合游擊部隊攻擾平漢路。同時，還請求軍委會令第一戰區之第2集團軍（孫連仲部）南移桐柏、唐河，以鞏固兩戰區之結合部。計畫經軍委會批准後，李宗仁按照計畫於4月30日下達作戰命令。其主要內容為：「戰區決以主力行攻勢防禦，粉碎敵人之企圖，長久保持襄河左（東）岸地區，一部渡河攻擊，竭力牽制敵之兵力，俾我主力作戰容易。」令第21集團軍以2個師並指揮2個游擊縱隊，主力向花園、廣水間，一部向信陽西進，策應主力之作戰；令江防軍以第26軍為主力，推進至沙洋、沙市間地區，並以攻擊行動牽制敵軍；今右集團軍加強襄河左岸地區兵力，防止日軍北上及渡河，令左集團軍在現陣地（隨縣地區）阻敵前進，將主力配置於左翼，伺機向敵側背攻擊；令二線兵團之第41軍在唐河、白河及襄河右岸扼要防守，第45軍集結於茅茨販附近，分別準備策應左、右集團軍。此時，第五戰區司令長官部尚在棗陽。
1939年5月1日，日軍第3師團在航空兵直接支援下，首先在東部發起進攻，由信陽、孟畈店、徐家店、浙河分4路向守軍第84軍及第13軍陣地進攻。戰至5月3日，日軍突破守軍的前進陣地，開始向主陣地帶攻擊。又經過4天的激烈戰鬥，至7日晚，守軍退守厲山南北之第二線陣地，日軍先後攻佔塔兒灣、高城、隨縣等地。在日軍第3師團開始進攻後，日軍第13、第16師團亦開始向守軍第45、第59、第77軍的陣地實施火力攻擊。當中國軍隊第31集團軍已被日軍第3師團牽制了襄花公路方面時，日軍2個師團及騎兵旅團遂於5月5日開始由鍾祥、黃家集發起進攻。日軍第16師團及騎兵第4旅團沿襄河東岸向北攻擊前進，突破守軍陣地後，於6日攻佔長壽店，7日攻佔張集、蔡陽。日軍第13師團乘守軍左、右集團軍主力與日軍第3、第16師團激戰之機，由黃家集、平壩鎮兩路向北急進，沿途未遭堅強阻擊，於7日夜分別佔領棗陽及隨陽店。第五戰區司令長官李宗仁已將長官部轉移至襄陽，鑒於當前情況，乃決心令左集團軍主力依桐柏山地，對棗隨盆地佔領側面陣地，側擊北進之敵，不得已時，則分向唐河、新野轉進；並以第39軍及第13軍一部留置大洪、桐柏山區，發動游擊，襲擊敵人；令右集團軍河東部隊竭力來擊北進之敵，遲滯其進展。各部隊接到命令後，左集團軍以第39軍進入大洪山，第84軍及第31集團軍則逐次抗擊、交互掩護，向唐河轉移。右集團軍以一部兵力及江防河東部隊，分向敵後挺進，企圖切斷日本第16師團及騎兵第9旅團與後方之聯繫。
日軍第13師團佔領棗陽後，各部隊仍按原計畫繼續進攻。第3師團由信陽出發之第34聯隊，於5月10日擊退第一戰區第68軍第119師，佔領桐柏，其他3路於8日突破守軍厲山一線的第二陣地後，於12日進至棗陽東北的西新集地區。第16師團在擊退第59軍第180師的阻擊部隊後，由張集經棗陽之西迂迴至棗陽以北的太平、湖河。騎兵第4旅團於9日晚徒涉渡過唐河，10日拂曉徒涉渡過白河，中午攻佔新野，遂即放棄、繼續東進，12日與第2集團軍第30軍激戰後，佔領唐縣，不俟守軍反擊，又放棄唐縣，迅速南返至太平、湖河地區，與第16師團會合。至此，日軍3個師團及騎兵旅團均在棗陽東北地區會合。日軍第11軍司令官岡村寧次。於當夜下達命令，令進攻部隊返回各自駐地，並規定在返回途中分段掃蕩第五戰區留在日軍後方的部隊，同時令第3師團以一部兵力據守隨縣。
第五戰區左翼集團之第84軍於5月9日撤至吳山店，獲悉棗陽已為日軍佔領，北進道路受阻，於是轉向南陽、方城間突圍，於20日到光化集結，第31集團軍於9日在桐柏以北的劉家河、江頭鎮地區與日軍第3師團激戰終日，傷亡頗重，當晚獲悉，信陽日