泗城失利，淮陰失守。面對險惡的戰爭形勢，陳毅心急如焚。
9月11日，中央命令剛取得蘇中戰役大勝的華中野戰軍司令員粟裕，率主力火速從蘇中開赴淮陰增援。從蘇中淮安到淮陰約250公里，一路水網，既少陸路，又少船隻，且雨水不停，阻敵不斷，一時難以到達。
陳毅率山野部隊抵抗敵人，激戰至19日拂曉，敵張靈甫之74師突破淮陰城門。陳毅遂下令部隊撤出淮陰。
9月下旬，陳毅與粟裕在漣水縣西北陳師庵會合。
陳毅、粟裕原都是主張放棄兩淮、不與敵人拼消耗的。
陳毅說：「兩淮丟了，並非壞事。」陳毅在馬背上湊成了幾句詩：「誘敵何妨讓兩淮，蔣軍到此好堆埋。運河不是鴻溝界，會見狂潮卷地來。」陳毅又解釋說：「我們把包袱丟給敵人背，敵人佔了城市，必須分兵把守。佔領的城市越多，敵兵力就越分散。」
粟裕很贊成陳毅的意見，說：「對，這樣敵人用於前線作戰的部隊就會逐漸減少，正有利於我們一口一口地把他們吃掉！」
9月25日，新華社華中前線電訊稿上發表了粟裕在新四軍主動撤離淮陰、淮安後的一次談話。粟裕指出：「我軍的撤出兩淮，絕不是我們軍事上的失敗，而是對蔣軍大規模殲滅戰的開始……侵入淮陰、淮安的蔣軍，終必被殲滅在這些土地上的。」
當然，敵人至死也不會這樣考慮問題。攻佔兩淮後，張靈甫得意忘形，大張旗鼓地慶賀「大捷」。蔣介石和他的參謀總長陳誠等人也大造輿論，通電對張靈甫「備極嘉獎」，吹噓「蘇北戰事已近尾聲」，等等。
這時，粟裕又向中央軍委提出了「華野、山野合併」的建議。粟裕分析道：為了改變華中局勢，應集中華中、山東兩個野戰軍攻下宿遷，進行宿北戰役，得手後再向西擴張戰果。這樣，使兩大野戰軍合併，更有利於指揮作戰。
毛澤東收到粟裕的電報，非常高興，對朱德說：「粟裕這個同志主意多嘛，你看他又給我們出點子了。」
毛澤東為什麼這麼說呢？原來，在蘇中戰役之前，粟裕幾次提出張鼎丞為華中軍區正副司令員，他提出「閱悉中央以職及張鼎丞同志分任正副司令之指示，不勝惶恐。以職之能力，實不能負其重任。鼎丞同志不論在才德資格方面，均較職為高超。抗戰以前，均為長輩；抗戰初期，則職之上級；近數年，又復在中央直接領導下，成績卓著；且對執行與掌握黨的政策，均遠非職所能及。為此，曾再三請求華中局，以鼎丞同志為司令，職副之，未蒙允許。為慎重並更有利工作起見，特再請求中央以鼎丞為司令，職當儘力協助，以完成中央給予之光榮任務」。了與中共中央軍委看法不同的意見：中共中央和新四軍軍部任命他和中共中央提出對部隊進行調整和改編，新四軍部分主力北上山東，江南主力回到華中，華中部隊應以老部隊與新部隊混編，成立新編製。這時粟裕以個人名義又給中央發了一封電報，建議不要過分打亂各師建制。電報說：
「此次華中北調部隊除3縱保持整個建制外，其他各主力師均系分別抽調。似此不同建制之部隊，今後須有較長時期方可打通思想，但對目前戰鬥協同配合不利（特別是華中分局領導下之部隊），可能產生重大影響。此點雖曾向華中局及分局建議，未蒙採納，對此問題尚不能完全理解。因職為各師地區既留有地方兵團，雖將當地主力師調走，對堅持似無大影響。因此，職意應儘可能不過分破壞建制，較為有利。職敢冒本位、宗派主義之嫌，特電告中央，尚盼指示。」（軍委一局編：《華中局往來電報》1945年8月至1946年5月）
與前面幾次不同的是，這一次是粟裕主動提出的建議。
10月15日，中央軍委給陳毅等人發去電報，同意山東野戰軍和華中野戰軍合併，並對兩大野戰軍合併後的人事安排作了明確指示：「山野、華野兩軍集中行動，兩個指揮部也應合一，提議陳毅為司令員兼政治委員，粟裕為副司令，譚震林為副政治委員。」
陳毅和粟裕長期共事，關係融洽，這是人所共知的。當時部隊中流傳著一句話，叫做：「陳不離粟，粟不離陳。」充分說明了兩人的密切關係。
當陳毅聽了這句話後，笑著說：「好嘛，當年在中央蘇區，朱不離毛，毛不離朱，紅軍無往而不勝。今天我們也可以學學毛主席和朱老總的樣子嘛！」