豫東解放區是晉冀魯豫解放區同華中解放區聯繫的通道和樞紐，也是冀魯豫區南端之屏障，國民黨軍一直虎視眈眈，企圖控制這一地區。在國民黨發動大規模內戰部署中，首先是圍攻我中原解放區，進而對華北解放區發動全面進攻，因而，敵我對豫東地區都非常重視。因此，豫東解放區成為停戰令公布後未停戰的地區之一，國民黨的進攻從未停止過，妄圖一舉消滅豫東人民武裝力量，控制這一廣大地區。
國民黨軍隊為達到消滅豫東解放區而後進攻華北解放區的目的，進一步策划了在夏季進行第二次大規模「圍剿」。為此，在新鄉談判期間，國民黨當局大肆造謠，製造口實，不承認豫東解放區。國民黨當局的造謠儘管遭到中共談判代表有理有據地駁斥，但是，國民黨軍隊對豫東解放區進行第二次大規模「圍剿」的部署照樣緊鑼密鼓地進行。
1946年5月上旬，冀魯豫第六軍分區杞通獨立團在睢縣西部榆廂鋪附近睢杞公路上，截獲國民黨軍隊傳遞商丘指揮部的《關於豫東地區團隊配合國軍清剿水東杞、睢、太、通匪軍計畫》。兩天後，克威縣民主政府得到駐杞北陽姻國民黨河南省保安第五團地下黨員張紹儒送來的同樣一份作戰計畫。5月7日送交冀魯豫軍區第六軍分區。分區馬上上報軍區，軍區又轉呈了新鄉談判組。從兩份作戰計畫可以看出國民黨軍隊對豫東解放區的第二次進攻，即所謂第二次「圍剿」部署已全部完成，軍事行動已迫在眉睫。
1946年5月10日，新鄉談判小組接到中共代表關於國民黨軍隊將於5月11日對豫東解放區進行第二次「圍剿」的報告，立即決定由美方代表潘蘭脫中校、中共代表李靜宜上校、國民黨代表李守垣少將組成小組，於5月11日赴豫東解放區視察調處。中共代表在向新鄉談判小組報告的同時，還明確提出：如果國民党進攻，造成的一切不幸事件，應由國民黨負責。
國民黨懼怕3人小組發現他們進攻解放區的真象，一方面設法阻止留難3人小組前往，一方面發布訓令準備欺騙3人小組。5月14日，國民黨第七專區專員兼保安司令田鎮洲簽發的訓令中稱：如果視察組到後，即報告泛區根本無共軍，僅有少數土匪。該訓令還假造民意稱：以上意旨應普遍傳告縣、鎮、保甲長、團隊官兵及附近民眾，小組如有詢問，應異口同聲答應。如有妄談或承認該區有共軍者應嚴懲不貸……迅予發動中等以上學校學生編組宣傳隊廣為宣傳。
國民黨當局在製造假象的同時，無理阻止3人小組到豫東解放區進行視察和調處。3人小組於5月11日至18日在國民黨當局的百般阻止留難下，往返於鄭州、開封間，什麼問題也沒有解決，於19日被迫返回新鄉。
國民黨軍隊對豫東解放區的第二次「圍剿」是國民黨鄭州綏靖公署主任劉峙親自策劃部署的。「圍剿」從1946年5月11日開始。參加「圍剿」的部隊有：國民黨軍隊整編五十五師一八一旅、整編六十八師八十一旅、國民黨國防部保安第三縱隊、河南第一、二、五、七、十二專區保安團、河南省保安第一、五、六團和杞縣、睢縣、太康、民權、陳留、扶溝等25個縣保安團、隊，共約5萬餘人。其主要指揮機構是國民黨鄭州綏署第四綏靖區。國民黨軍隊對豫東解放區的「圍剿」開始分為5路，其部署是：一路為河南省保安第五團、杞縣、民權縣保安團和一八一旅之一部，由一八一旅旅長米文和指揮，分別從陳留、杞縣縣城向解放區的克威縣進攻；一路為睢縣保安團、張嵐峰部兩個團和八十一旅一部，由八十一旅旅長葛開祥指揮，從太康、睢縣等地向睢縣東南長崗、太康北龍曲一帶進攻；
一路為第十二專區保安團、通許縣保安大隊、河南省保安第一、六團和八十一旅一部，由第十二專區專員胡長怡指揮，從通許、陳留等地向通許東南的歐陽崗、小青崗進攻；
一路為國民黨第五、七專區保安團、西華、淮陽縣保安團由第七專區專員田鎮洲指揮，從淮陽、太康向太康西南的大辛寨、五里口一帶進攻；一路為民黨第二專區兩個保安團，由第二專區專員米紀章指揮，向睢縣柘城縣邊界的黃崗一帶進攻。
這次「圍剿」，國民黨軍隊採取「分進合擊、逐步壓縮、包圍聚殲」的戰術，比第一次「圍剿」更加殘酷。到6月10日，僅一個月的時間，先後侵佔豫東解放區重要村鎮32處，修築碉堡31個，使豫東解放區縮小到了僅有杞南、杞通、杞北地區。
在國民黨重兵壓境之際，冀魯豫第六軍分區黨政軍民一起投入了反對國民黨軍隊「圍剿」的鬥爭。從獲得情報之日起，軍分區司令員金紹山、副司令員孫子植和政委李中一立即分別在司令部、政治部召開緊急會議，研究反「圍剿」對策，並及時將敵情報告冀魯豫軍區，隨即又與地委、專署聯合召開軍事會議，提出當前的中心任務是爭取第二次反「圍剿」鬥爭的勝利。要求在全區自下而上地進行政治動員，精減機關，充實連隊。機關幹部一部分下部隊幫助工作，一部分組成服務團，直接為戰勤服務。縣區武裝緊緊依靠群眾，堅持本地區鬥爭，打擊小股分散之敵，保護群眾利益。軍分區主力為防止被敵人各個擊破，採取集中兵力與敵人周旋，避強擊弱，在運動中相機破敵的方針。
冀魯豫區黨委和軍區接到報告後，對豫東解放區反「圍剿」鬥爭非常重視並及時發出指示。指示指出：敵人第二次對豫東解放區的「圍剿」，可能是一次最緊張、最激烈、最艱苦的戰鬥最頻繁、情況最複雜、代價相當大的「圍剿」和反「圍剿」鬥爭。敵人在即將掀起全國內戰之際……必將首先與你們決鬥。你們務必不要粗心大意，而要認真對待，爭取以敵敗我勝而告終這場鬥爭。指示中要求各縣「應成立指揮部，地方幹部一律掌握武裝，就地堅持鬥爭，保衛麥收，瓦解敵人」；要作「連續戰鬥的思想準備，經常保持飽滿的戰鬥情緒」，一定要戰勝敵人，堅守豫東解放區陣地。指示最後還告慰豫東解放區軍民：「區黨委、軍區完全相信你們可以戰勝敵人，並將給你們以各種支援」；「只要集中兵力機動靈活，首先打破一路至兩路，形勢就會發生變化。」
冀魯豫六地委、專署、軍分區聯席會議後，豫東解放區芝圃縣、克威縣、達生縣、睢縣、慶華縣等縣委、縣政府、縣大隊都立即進行反「圍剿」動員，傳達區黨委、軍區和地委、分區的指示，揭露國民黨軍隊向解放區進攻的陰謀和作戰計畫，號召全體軍民為保衛和平、保衛人民、保衛家鄉奮起自衛反擊。軍民經過動員和宣傳，進一步增強了戰勝國民黨軍隊的信心。指戰員們摩拳擦掌，以高昂的鬥志準備打擊各路進犯的敵人。
晉冀魯豫野戰軍在劉伯承、鄧小平指揮下向大別山挺進
儘管有區黨委和軍區的正確指示，全區黨政軍民作好了反「圍剿」的準備，但是，豫東解放區武裝僅有三十團、分區獨立團、杞通獨立團和各縣大隊，兵力總計不足4000人，與國民黨軍隊的軍事力量懸殊較大，形勢異常嚴峻。
5月10日冀魯豫六分區主力部隊大部兵力向南向東，指向戰鬥力較弱的南路國民黨軍隊和收編的漢奸張嵐峰部。張嵐峰是河南柘城人，早年留學日本，原屬西北軍，後追隨蔣介石。日本侵犯中原後，他又依附於汪精衛，當了「和平救國軍」第四方面軍總司令。日本投降後，又搖身一變成為國民黨政府國防部保安第三縱隊司令。此時張嵐峰仍擁有10個團之眾，有一定的戰鬥力。這次「圍剿」，張部幾乎傾巢而出，進駐豫東解放區。他們比國民黨正規軍熟悉當地情況，實為共產黨、解放軍在豫東地區的心腹之患。
5月中旬，國民黨軍隊按計畫從四面八方紛紛出動，豫東解放區戰火四起。因為解放區軍民在思想上，軍事上都有所準備，雖在敵眾我寡的情況下仍能主動迎戰，抓住戰機殲滅敵人。冀魯豫六分區主力和軍區三十團開始與國民黨政府國防部保安第三縱隊接觸，就形成了豫東解放區反「圍剿」鬥爭的主戰場。5月12日、13日兩日三十團連續夜間設伏，均未殲敵。14日又和軍分區特務營、睢縣大隊設伏於睢縣至太康轉樓之間，消滅國民黨保安三縱隊一部，繳獲輕機槍1挺。同時獲悉國民黨保安第三縱隊丁團、孔團分別侵佔解放區之王集和龍曲兩地，冀魯豫軍區三十團乘王集之敵立足未穩，激戰兩小時，殲敵一部，待駐龍曲孔團增援時，三十團隨即撤出戰鬥，轉移至張三寨。
5月17日，中共冀魯豫六地委和軍分區在太康縣高賢集召開聯席會議，決定先打擊西南方面之敵。18日午後1點多鐘，國民黨河南省保安一團千餘人，由竹林向高賢發起進攻，三十團二、三營當即奉命還擊，激戰半日，入夜敵人逃竄。
10天來的連續作戰，始終未能打痛國民黨的軍隊，所以，國民黨軍隊認為人多勢眾，中共軍隊很難抗禦，豫東解放區可以唾手而得。5月20日1時張嵐峰部先頭一個團氣勢洶洶而來，向三十團駐地張三寨發起猛攻。三十團迎頭痛擊，打死20多人，打傷30多人，生俘10