粟裕副司令指揮作戰時，對待上級指示，從不盲目機械執行，而是根據戰場情況，從實際出發，作出自己的判斷和決策。1948年1月27日，他接到中央軍委一份「加急加密」電報。電報要求粟裕率華野一四六縱隊渡江南進，在湘、浙、閩、贛諸省執行機動作戰任務，以策應劉鄧大軍開闢中原戰場。當時陳毅司令員到中央彙報工作去了，粟裕看見電報，便厲兵秣馬，準備渡江南進。但他思索兩個多月後，認為集中兵力會戰中原比分兵南下更有利。這顯然與中央軍委意圖不符。然而他想到，作為一名共產黨員，有意見有建議應大膽向中央提出來。4月中旬，他向中央軍委斗膽直呈，建議暫不過江，集中中原和華東兩大野戰軍在黃河以南、淮河以北打大規模殲滅仗。毛澤東收到粟裕的電報後，親自擬電：「為商量行動問題，請陳、粟於4月25日至30日內，同來平山中央機關開會。」
陳毅當時正主持華野一兵團高幹會議，要作報告，並組織下一步的政策討論。會議事關華野全部隊，不能無人主持，故陳、粟於4月22日急電中央，請求由粟裕於4月24日北上，陳毅不北上。但是中央軍委於同日（22日）電陳、粟，要求他們4月27日趕到中央機關會晤。
5月5日，陳毅、粟裕行程800餘公里後，到達城南庄。當晚，毛澤東特意把粟裕請到自己宿舍，做了徹夜長談。
第二天，毛澤東召集中央書記處、中央軍委的領導開會，以極其鄭重的態度聽取了粟裕關於三個縱隊暫不過江，在中原黃淮地區打大仗的彙報。
粟裕講完後，毛澤東等人又就有關事宜提出了一些問題。粟裕一一做了圓滿的回答。
中央領導當即進行研究，完全同意了粟裕的方案，並立即通知各個戰區。
會後，朱德對粟裕說：「主席、常委們採納了你的方案，總可以舒一口氣了吧？」
粟裕說：「主席和總司令在重大戰略決策上如此重視一個戰區指揮員的意見，使我深受教育，非常感動！」
毛主席說：「民主集中，是我們黨內生活的準則。」
朱德說：「粟裕同志，本來你們今天可以回前線了，但主席說再留你一天，還有兩件大事再定一定。」
第二天繼續開會，毛澤東說：「今天我把總司令拉來，想增加一點權威性，共同研究兩件事。」
聽了這話，粟裕不安地揣度著。
朱德說：「主要是想調你們華野的一個人。」
粟裕忙問：「調一個人，誰？」
毛澤東說：「中央為了加強中原局和中原軍區的軍政工作，決定速調陳毅到中原工作，今後華野工作由粟裕主持。」
粟裕愕然。
中央再三再四地說明，當前中原戰場的困難是革命最後最大的困難。為此，中央決定立即成立中原局和中原軍區，由陳毅、鄧子恢同志帶領一批幹部和劉伯承、鄧小平會合，全面統籌政治、軍事、經濟、統戰方面的工作。這是關係全局的大事，希望華野的同志能夠理解。華野領導工作由粟裕主持。
隨後，粟裕反覆地請求毛澤東，讓陳毅繼續擔任華野司令員兼政委，並且想出了一個辦法，建議陳毅可以去中原軍區工作，但同時仍保留在華野的職務。
毛澤東被粟裕誠懇的態度打動了，笑著對粟裕說：「你就是華野的代司令員兼代政委！」
關於第二件事，毛澤東要求華野在8個月內殲滅敵人11個至12個旅，並且在最近消滅蔣介石的王牌軍——邱清泉第五軍。
粟裕表示，堅決完成軍委的戰略部署，積極創造戰機消滅第五軍！
在國民黨幾百萬軍隊中，第五軍堪稱鐵甲雄師，它是國民黨軍中第一支，也是唯一的一支現代化裝甲部隊。1939年底，第五軍首戰崑崙關，重創了號稱「鋼軍」的日本第五師團，轟動中外。此後，第五軍被編入中國遠征軍，出師緬甸，轉戰千里，迭挫強敵，後因受盟國內部矛盾影響及指揮失誤而失敗，被迫分頭撤到滇西及印度。隨後，第五軍經過整編改裝，參加反攻滇西之戰，銳不可當，勢如破竹，贏得了赫赫戰果。抗戰勝利後，第五軍積極充當內戰急先鋒，瘋狂進犯淮南、淮北、蘇中、蘇北、魯南、晉冀魯豫等解放區，並在定陶戰役、巨野戰役中多次與華野、中野惡戰。
中央軍委決定由華野來殲滅邱清泉兵團後，朱總司令極為重視，冒雨於5月12日趕到濮陽，不顧旅途勞頓，馬上同陳毅、粟裕等人一塊研究作戰部署。
5月14日，朱總司令親自給團以上幹部作報告。朱德形象生動地告訴大家，對付五軍等敵主力部隊，就是要用釣大魚的辦法。你想釣大魚就不要性急，不要一下就扯上來。因為大魚初上鉤，尚未疲睏，你急於往上拉，它拚命往下扯，往往會把釣索弄斷。我們可以慢慢同它擺，在水裡擺來擺去，把它弄疲勞了再扯上來，這樣就能夠把這條大魚釣到手了。朱德說：「你們一定要下決心釣到一兩條這樣的大魚！」
為了穩坐釣魚船，粟裕把目光放在了濟南至鄭州、徐州的魯西南三角地帶。他覺得把國民黨第三軍誘到這個地區，「魚」上鉤的可能性極大，於是下令：第三、第八縱隊由許昌向淮陽方向挺進，吸引邱清泉兵團等部自魯西南地區南下；第一兵團南渡黃河，開闢戰場，調動邱清泉兵團；在第一兵團南渡，而邱清泉兵團北返堵擊時，第十三、第八縱隊和中原野戰軍第十一縱隊北進，與第一兵團將邱清泉兵團殲滅於運動中。
陳唐兵團第三、第八縱隊接到命令後，在宛西戰役中再克許昌，殲守敵第二十一旅後，由許昌東進。
邱清泉很狡猾，他見我軍第三、八縱隊北上，認為是殲滅第三、八縱隊的好時機，便指揮整編第七十五師，由定陶、成武地區向太康、淮陽方向行動，尋殲第三、八縱隊。黃河北岸的華東野戰軍第一兵團等部，於5月30日、31日南渡，並前進至菏澤、巨野之線，與中原野戰軍第十一縱隊會合。
第一兵團南渡黃河，朝三暮四的邱清泉中途變卦，想放棄第三、八縱隊，集中全力殲滅粟裕的一兵團。蔣介石很欣賞邱清泉的方案，急令邱清泉兵團並指揮整編第七十五師北返堵擊，並令整編第八十三、第二十五、第七十二師及整編第六十三師一個旅等，分別自平漢路南段和蘇北地區向魯西南疾進，企圖與華東野戰軍主力決戰。
此時，整個中原戰場敵我雙方頻繁調動兵力，敵我交錯配置，正處在互相監督之中，戰機時時有，但稍縱即逝。第一兵團渡河部隊原擬圍攻定陶、曹縣，吸引邱清泉兵團來援，配合陳唐兵團南北夾擊聚殲之。但因邱清泉兵團6月5日已達曹縣、單縣一線，而陳唐兵團尚未北返，計畫未能實現。
在河北省濮陽縣境內王莊粟裕指揮部，粟裕正倒騎靠背椅審視著地圖。面對當面嚴峻的形勢，粟裕反而泰然自若，嘴角不時掛起一絲笑意。
善於獨立思考的粟裕在確定「南渡黃河，殲敵五軍」方案的同時就考慮到，抓不到邱清泉，就抓別的「大魚」。因為殲邱兵團雖具一定條件，但不利因素較多。一是邱清泉兵團的五軍等部，全是美式裝備，戰鬥力很強，且一旦出現危急，蔣介石必全力救援。二是要殲滅五軍，突擊集團至少要四個至五個縱隊，而當時華野兵力不足六個縱隊，且戰鬥減員尚未補齊。三是敵五軍這條「大魚」即使被「擺來擺去」，三五天也未必能結束戰鬥。當援敵趕到，形勢必定逆轉。四是華野主力縱隊還未集中。因此，粟裕認為，既然尋殲五軍沒有確切把握，就不能只盯住敵五軍而放棄有把握吃到的「肥肉」。於是，他在考慮打敵五軍的同時，也設想了一個「先打開封，後殲援敵」的腹案。
粟裕慎重地審視著地圖，下決心要打開封，主要依據有如下幾點：一是開封是國民黨的河南省會、中原重鎮，政治、軍事皆佔有重要地位。若開封告急，蔣介石必調兵增援。華野可在運動中尋機殲滅援敵。二是開封有守敵3萬餘人，不失為一塊「肥肉」，但戰鬥部隊只有在羊山集被華野打爛後重建的敵六十六師。該師部率第十三旅和河南省的兩個保安旅，指揮不統一，戰鬥力不強。三是敵可用於增援開封的主力集團均在100公里外，而華野與中野相對靠攏，有強大的兵力和充裕的時間阻擊援敵。四是攻打開封這樣有40萬人口，且經過日、蔣軍時期設防的城市，在華野雖是首次，但陳唐的第三、八縱長於城市攻堅，部隊有多年的攻堅作戰經驗。
想到此，粟裕更增添了先放棄打敵五軍，轉而打開封的信心。
6月9日，粟裕、張震提出五個作戰方案，徵詢陳士榘、唐亮的意見。其中第二方案是：以第三、第八縱隊一部「佯攻開封，吸引其增援」。6月10日，陳土榘、唐亮致電粟裕、張震，認為「目前敵我在魯西南成為膠著狀態。敵異常警覺，且有預定布置準備，正面不易殲敵。一般以避開魯西南轉入敵之側後，調動敵於運動中殲擊為有利」。並提出：「在目前中原整個作戰方針上，應掌握戰機，隨