開封失守，國民黨統治集團大為震驚，南京、上海等地輿論大嘩。
在南京的河南省籍「監察委員」、「立法委員」們，哭哭啼啼，先是到蔣介石官邸請願，而後又在參謀總長顧祝同住處跪地大鬧，還攔著徐州「剿匪」總司令劉峙「跪地痛哭」（劉峙：《我的回憶》，台灣文海出版社1982年版）。強烈要求蔣介石收復開封並追究開封失守者的責任。
6月24日，國防部長何應欽在立法院臨時會議報告開封失守問題。談及開封迅速丟失原因時，何應欽說：「參謀部配備開封之兵力，原有國軍3個團、保安隊6個團、臨時又加入國軍1個團，共10個團。原期至少能守10天以上，預計我援軍擊破沿途匪軍，到達開封城外，則不需十天。在開封地區之內外夾擊，定可形成。不料匪於17日開始攻城，18日即突破城垣，發生巷戰，此事實屬意外。參謀部得此消息後，顧總長即飛往鄭州，最高統帥亦飛往巡視，期能使援軍早日到達，終以開封城被匪突破太快，援軍趕救不及，至22日城內電訊中斷，情況不明。」（中央社南6月25日電）
為挽回頹勢，穩定軍心民心，國民黨軍統帥部嚴令邱清泉兵團及第4綏靖區劉汝明部加速向開封前進；另以整編第75師（附新編第21旅）及剛由新安鎮增援到柳河的整編第72師組成一個兵團，由第6綏靖區副司令官區壽年指揮，由民權地區經睢縣、杞縣迂迴開封，重占開封，並企圖迫使華東野戰軍與之決戰。
粟裕、陳士榘、唐亮、張震分析了當前情況後，於24日19時致電劉伯承、陳毅、鄧小平並中央軍委，提出主動放棄開封，求殲邱、區兵團的方案。認為：「邱、區兵團重占開封后其補給線延長，兵力將被分散，如邱匪再犯尉（氏）、洧（川）、鄢（陵）地區時，我們則以伺機殲其左路或後衛，內定26日自動放棄開封。」
25日，他們又提出擬待邱兵團進入開封后，以第3、第8縱隊分割邱、區之聯繫，以第1、第4、第6、第10、第11縱隊及特縱、兩廣縱隊，殲滅區兵團於杞縣以南。如邱兵團入開封后，區兵團又遲遲不進，則我向北躍進，求得殲滅區兵團一部或大部於民（權）、蘭（封）、杞（縣）、睢（縣）地區。
中央軍委於26日3時致電劉伯承、鄧小平、陳毅、鄧子恢、粟裕、陳士榘、張震，指出，蔣介石、白崇禧均判斷華東野戰軍南進與中原野戰軍會合打整編第18軍等部，故令邱清泉、區壽年兩兵團「從民權、蘭封、開封之線向西南急進，以期合擊我軍，邱軍又以一部守開封。在此情形下粟陳張部署在睢杞通許之線（或此線以南）殲敵一路是很適當的。如能殲滅75師、72師兩個師當然更好，否則能殲滅75師也是很好的。敵指揮官中區壽年和我軍作戰經驗較少。」
27日9時，中央軍委致電劉、鄧、陳、鄧說，粟裕軍在現地區有隨時殲敵機會，故以在現地區尋殲整編第75、第72師或其中之任何一個師為有利。而後或轉至商丘、碭山打第74、第51師，或打渦陽、蒙城、蚌埠、宿縣，均可機動。只要整編第18軍不過黃泛區向東，粟裕軍機動地區是寬大的（《粟裕戰爭回憶錄》第558頁）。要求中原野戰軍牢牢鉗制胡璉兵團。
27日17時，劉伯承、陳毅、鄧小平致電粟裕、陳士榘、張震並報中央軍委，同意上述作戰方案，為保障華東野戰軍殲滅區壽年兵團，「我們決以一部監視整編第18軍，主力主動攻擊北進之吳紹周兵團，吸引18軍回援」。
粟裕等人為實現分割邱、區兵團和求殲區壽年兵團的方案，以第1、第4、第6縱隊和中原野戰軍第11縱隊，組成突擊集團，隱蔽集結於睢縣、杞縣、太康之間和民權地區，準備實施南北夾擊，圍殲區兵團。以第3、第8縱隊先由開封向通許方向行動，引誘邱丘團南下，然後迅速東移，會同由上蔡地區北上歸建的第10縱隊和位於杞縣的兩廣縱隊，組成阻援集團，在杞縣以西構成阻援陣地，隔離邱、區兩兵團之聯繫，阻擊邱兵團之東援；以中原野戰軍第9縱隊進至鄭州東南地區，阻擊可能由鄭州東援的孫元良兵團，並從側後牽制邱兵團。另以華北軍區冀魯豫軍區和中原軍區豫皖蘇軍區武裝，破擊隴海路徐州至民權段，並直接配合野戰軍作戰。