1948年5月12日，初夏之雨淅淅瀝瀝，澆得地下一片泥濘。朱德總司令冒雨來到了濮陽看望華野部隊。
這時，粟裕所率的第一、四、六縱隊正在濮田整訓，並準備南渡黃河入中原作戰，求殲敵邱清泉整編第5軍。由於當時國民黨軍在中原戰場上實力仍很強勁，除保安部隊外，尚有正規軍25個整編師57個旅和4個快速縱隊編成4個兵團，執行機動作戰任務。華野主力欲完成殲敵整5軍的任務，仍十分困難。因此，中共中央和中央軍委領導對粟裕部下一步的行動甚為關心，除指示劉鄧以中野主力在平漢路南段尋機殲敵，鉗制國民黨軍北援行動作配合外，還委派朱德總司令到濮陽檢查工作，指導粟裕所部作好入主中原後打大戰的準備。
朱德一到濮陽，不顧一路勞累，馬上同陳毅、粟裕等一道對下一步作戰部署展開了深入細緻的研究。
因中央已明確了陳毅暫離華野去中原局和中原軍區工作。這樣，華野的所有重擔便落在了粟裕的肩上。
通過兩天的研究，初步確定了殲敵第5軍的作戰方案。
朱總司令離開濮陽後，粟裕一直夜以繼日地在地圖前面研究情況，考慮良策。
整編第5軍是蔣介石的5張「王牌」之一，如果把它消滅了，就等於砍掉了蔣介石伸向中原和華東戰場的一隻臂膀，對人民解放軍取得逐鹿中原的勝利十分有利。
然而，身為國民黨第2兵團司令官兼第5軍軍長的邱清泉也並非無能之輩，他不僅畢業於黃埔軍校第2期，而且還在德國柏林陸軍大學深造過，是一個既諳熟孫吳兵法，也精通西洋戰法的所謂「帥才」。而且，第5軍轄有2個整編師4個旅，並指揮1個快速縱隊和1個騎兵旅，共約3.7萬人，且基本為美械裝備，戰鬥力「極強」。
整編第5軍隨其兵團部逗留在魯西南的定陶、成武一帶。在它的西面，有孫元良兵團位於鄭州地區；在它的西南面，有胡璉兵團位於漯河、張軫兵團位於南陽地區；在它的南面，有第6、第14綏區部隊，以及位於英山、安慶地區的張淦兵團；在它的東面，有第3綏區徐州部隊和第3快速縱隊；在它的北面，有第10綏區駐兗州地區和第2綏區駐濟南部隊。如何把敵第5軍從魯西南地區的中心調出來，而又不陷入其他各路敵人的糾纏之中，的確需要仔細琢磨。
這期間，華野陳唐兵團第三、八縱隊在配合中野進行宛西戰役後，已轉至襄城、禹縣地區休整；暫歸陳唐指揮的中野第九縱隊則位於鄭州西南地區；調歸華野指揮的中野第十一縱隊轉至南陽、確山之間地區。
粟裕一邊思考方案，一邊同副參謀長張震商量組織第一、四、六縱隊和兩廣縱隊、特種兵縱隊的針對性訓練，並積極與陳唐等部進行聯繫，下達準備進行魯西南大規模殲敵的預先號令。
5月21日，中央軍委來電正式明確：「粟裕全權指揮第一、三、四、六、八及十一縱隊之作戰，並指揮許、譚在津浦線上之配合作戰。」
22日，中央軍委又致電劉、鄧，強調指出，「夏季作戰的重心是各方協助粟兵團殲滅敵5軍，只要5軍被殲滅，便取得了集中最大力量殲滅18軍的條件，只要該兩軍被殲滅，中原戰局即可順利發展」。
根據中央軍委的指示和對各方面情況的分析，粟裕與陳毅、鄧子恢、張震等交換意見後，定下了如下初步決心：
首先，以陳唐兵團第三、第八縱隊由許昌以西地區向淮陽方向轉移，吸引邱清泉兵團南下；然後，以第一、四、六縱隊和兩廣縱隊、特種兵縱隊乘機由張秋鎮、范縣之間南渡黃河，進抵定陶、成武地區，力求殲滅魯西南守敵一部，開闢戰場，吸引邱兵團迴轉北上。在邱兵團向北轉移時，立即以陳唐兵團第三、第八縱隊和中野第十一縱隊北進，與南渡黃河的粟兵團南北夾擊，力爭殲敵第5軍於魯西南地區。
陳唐兵團第三、第八縱隊接到粟裕的命令後，於5月24日由許昌地區向淮陽方向挺進。國民黨軍果然被陳唐兵團的舉動所迷惑，邱清泉率兵團部，並指揮整75師馬上向太康急進，企圖在胡璉兵團配合下，尋殲陳唐兵團所部。粟裕乘機指揮濮陽地區各縱隊，於30、31日兩個夜間順利渡過黃河，進入鄆城地區，與中原野戰軍第十一縱隊會合。
如此大部隊大規模渡河南進，完全出敵意料，蔣介石急令邱清泉回兵北上迎敵。
邱清泉果然狡猾異常，他向蔣介石提出：「華東共軍主力傾巢而至，是難得的決戰機會，必須全力與共軍決戰。」
於是蔣介石又親自急令整編75師、第83師、第25師、第72師和第63師，火速進至魯西南，會同第5軍與我渡河部隊決戰。至6月上旬，敵集中在魯西南戰場上的兵力已達到11個整編師，近兩倍於我。
面對敵將11個整編師集中到魯西南戰場，而且隊形十分密集，無法分割，難以達到各個殲敵的目的，更難把位於中央的邱兵團挖出來予以全殲，粟裕不得不考慮調整原有作戰方案。
他想，眼下真的要和第5軍打一仗是不現實的，是拿雞蛋碰石頭。邱清泉的部隊素質雖不及第74師和第11師，但其裝備和兵員數量則與他們相比有過之而無不及。邱清泉把持著魯西南。但豫東是比較空虛的。河南省主席劉茂恩盤踞在開封，雖有3萬多守軍，但大都是烏合之眾，戰鬥力很弱，且劉茂恩對軍事一竅不通。實際上，開封之安危把持在整編66師師長李仲辛手中，而李仲辛又是一個只會打敗仗的敗將。
這時候，我三縱、八縱已達通許、睢縣、杞縣之間，距開封只有一日路程，若不打，必將失去一個良好的機會。
先打開封，後殲援敵。粟裕初步定下了這一決心。但蔣介石不會撒手不管的，因此，必須有人把第5軍邱清泉引開，待克開封后，再回頭來打增援的第5軍或者其他援軍。
必須打！粟裕暗下決心。
粟裕在幾經推敲與廣為徵詢意見後，於6月15日定下了攻殲開封之敵與準備打援的最後決心，並將作戰方案向中央軍委及劉伯承、鄧小平、陳毅、鄧子恢以及華東局作了報告。
與此同時，粟裕果斷地向縱隊下達的作戰命令是，以三縱、八縱組成攻城集團，由陳士榘、唐亮指揮，先採取奔襲手段奪占城關，爾後依託城關，迅速攻城。為確保拿下開封，另用三倍於敵的兵力，由粟裕直接指揮，擔任阻援與牽制敵人的任務：九縱插入鄭州和開封之間，阻擊鄭州援敵；中野十一縱和冀魯豫軍區獨立1旅位於巨野地區，從側後牽制邱兵團；第一、第四和第六縱隊楔入定陶、曹縣、民權、考城（今崮陽）地區，堅決阻擊邱兵團西援開封；冀魯豫軍區和豫皖蘇軍區的部分兵力相機攻佔東明、蘭封（今蘭考）並破襲隴海路蘭封至野雞崗段的鐵路。
中央軍委於6月17日清晨電復粟裕，完全同意「先打開封，後殲援敵」的方案，指出：「這是目前情況下的正確方針。」並告訴粟裕：「情況緊張時獨立處置，不必請示。」
同日，劉伯承、鄧小平、陳毅聯名來電，指出戰役第一步應明確以打開封為主，第二步打誰視情況而定，並決定將當時劃歸中野指揮的華野十縱自舞陽進至上蔡地區，以協同中野一部阻擊胡璉兵團北援，解除攻城部隊對南面之敵的顧慮。
徐州，劉峙的「剿總」指揮部。
劉峙正在主持軍事會議。突然，他的副官送來一封電報，上寫：
「共軍主力陳士榘、唐亮現正率部向開封城進攻，望速派兵救援！」
劉峙看罷，大驚失色，暗自叫罵：「媽的，這個世界上最狡猾最難纏的部隊就是共軍。」
他站了起來，故作鎮靜地說道：「諸位，請稍等。由於形勢有變，現在需要對部隊重新作一調整。我馬上打電話請示總統。」說完，劉峙走進了密室。
待劉峙走後，會場內一片竊竊私語，國民黨將領紛紛猜測發生了什麼事情。
半個小時後，劉峙從密室走出來。他正了正衣冠，回到座位，厲聲說：「總統命令，命邱清泉部全力西援，在開封以東，與共軍第一、四、六縱隊展開激戰，擊敗粟裕的主力；命孫元良率部攻佔中牟，東援開封；命胡璉從上蔡起，攻擊劉伯承、鄧小平、陳毅直接指揮的中原共軍主力。」
劉嶼又道：「今天的部署就到這裡，望大家儘快組織部隊參戰，同時我奉勸大家精誠團結，不要再發生推諉，甚至見死不救的事情。好了，散會！」
眾將官散會後，紛紛乘汽車或飛機回部隊，調集兵力參戰。
開封，歷史名城，北宋京都，古往今來，為兵家必爭之地。它位於豫東平原，北瀕黃河邊，南靠隴海線。城牆周長20餘公里，共有六門四關，即大南門、新南門、宋門、曹門、西門、北門和南關、宋關、曹關、西關。經敵長期經營，該城防禦工事已形成永久性防禦體系。守敵以城關為外圍支撐點，以城垣為主陣地，以龍亭、運動場、偽省政府為核心陣地。各陣地布有大量火力點