5月5日，中央軍委給華東野戰軍下達近期作戰的計畫，要求華野第1、第3、第4、第6、第8縱隊及中原野戰軍第11縱隊，共計6個縱隊，全部集結在中原黃淮地區打大仗，在隴海路開封至徐州段及其南北地區，以尋殲敵整編第5軍為作戰的主要目標，力爭在4至8個月內殲敵五六個至十一二個旅。同時指示華野第2兵團向津浦路一線行動，相機殲滅並牽制敵整編第12師、第72師等部；第4兵團在蘇北發起進攻戰役，以策應中原戰場我軍作戰。
殲滅整編第5軍，正符合當時華野全體指戰員的強烈願望。自蔣介石發動內戰以來，該軍常在進攻華東解放區和在中原戰場中打頭陣，既驕橫，又狡猾，與華野多次交手，未賺到便宜，也未受到沉重打擊，氣焰十分囂張。華野指戰員對它恨得咬牙切齒。因此，當提出打敵整編第5軍時，部隊群情振奮，摩拳擦掌，大有「滅此朝食」之慨。
5月14日，朱德、陳毅、粟裕主持召開華野前委擴大會議。陳毅傳達毛澤東關於時局與方針的指示，並通報了華野領導調整的決定。下午，朱德在陳毅陪同下親切會見了1兵團戰鬥英雄和戰士的代表，向大家表示黨中央的問候。
戰士們見到敬愛的朱總司令，心情非常激動。有的戰士說：「我看到朱總司令後，死了眼也閉了。」
當天晚上，1兵團召開團以上幹部會議，朱德作了重要講話。他充分肯定了華野在解放戰爭中作出的巨大貢獻，講述了當前的形勢和黨的方針政策，強調執行政策和紀律的重要性。關於華野下一步的作戰任務，他說：主要是爭取消滅國民黨的兩大主力——邱清泉的5軍和胡璉的11師。
如何消滅這兩大主力呢？朱德說：「我替你們想了一個辦法，就是用『釣大魚』的辦法。釣了一條大魚你不要性急，不要一下就扯上來，因為你性急往上扯，大魚初上鉤，尚未疲睏，拚命扯往往會把釣索弄斷。可以慢慢同它擺，在水裡擺來擺去，把它弄疲勞了再扯上來，這樣就把這條大魚釣到手了。對第5軍就要用這個辦法，要用『引』的辦法。它來攻，我就退，有條件就阻擊一下，沒有條件就不阻擊，把它拖得很疲勞，彈藥也消耗得差不多時，再用大部隊去奔襲殲滅它。你們一定要下決心釣到一兩條這樣的大魚。」（《朱德選集》）朱老總形象生動的比喻，給華野幹部留下深刻印象，也成為豫東之戰的指導思想。
5月21日，中央軍委向陳粟、劉鄧下達殲滅5軍的作戰指示。要點是：「我1、4、6縱可於25日左右由臨濮集、鄆城地區南渡，先在魯西南及隴海線上殲滅幾部敵人，造成集中1、3、4、6、8及11等6個縱隊全力殲滅5軍之條件，而以殲滅5軍為夏季作戰之中心目標。」「劉鄧擔負鉗制18軍，使不能東援。」「陳毅不參加此次作戰，儘可能迅速地偕同鄧子恢及大批幹部去豫西和劉鄧會面，建立中原軍區及中原局經常工作。」「粟裕全權指揮1、3、4、6、8及11縱之作戰，並指揮許譚在津浦線上之配合作戰。」（《陳毅年譜》）
接到指示後，陳毅於30日結束濮陽整訓工作，與鄧子恢率領4700名幹部繞道太行前往河南寶豐，與劉鄧會合。粟裕則調遣部隊準備渡黃河南下，會合洛陽戰役後東返的陳唐兵團與5軍作戰。