3月下旬，國民黨軍發起對山東解放區的重點進攻。至4月上旬，打通了津浦鐵路徐州至濟南段，佔領了魯南山區，打通了臨沂至兗州公路，基本實現了其第一步戰略目標。
3月27日，已到華東軍區司令部駐地的陳毅等人，鑒於國民黨軍已發起重點進攻，致電粟裕、譚震林（華東野戰軍副政治委員），並報中共中央、毛澤東主席：華東野戰軍在膠濟路之休整，如可以告一段落，則應考慮作戰問題。4月初，如敵第5軍等部已到濟南之線，集中力量修復津浦路，而濟南之敵又擬重占膠濟線，則我軍可考慮，向敵各師之間隙較大、便於分割，且距第2、第3兵團較遠的第1兵團所在地域臨沂、東海、新安之間突擊。
次日，粟裕、譚震林與參謀長陳士榘致電中共中央及陳毅、饒漱石、張雲逸（張雲逸，華東軍區副司令員）、黎玉，提出：「為粉碎頑之企圖，使頑防線延長，逼頑分散兵力和支援華中鬥爭，以便取得華中可能的物力人力支援長期作戰，我們擬以3個縱隊（2、7、8縱共82000人）伸入郯城、碼頭、新安鎮。到新安鎮後，向西擴張，佔領運河線，繼而渡運西進，威脅津浦南段之勢，誘頑74、83兩師南援。」「以我主力5個縱隊（1、3、4、6、9）、集結於蒙陰東南、臨沂西北地區，待機殲滅南線之74、83兩師，或殲滅由泗水向東南增援之11師，或殲滅大汶口向東進犯之第5軍。以上部署於4月1號開始運動，14號左右才能打響。如何？望復示」。（《粟裕陳士榘關於四月中旬作戰部署向中央、陳饒張黎的報告》，1947年3月28日）中共中央軍委複電同意這一部署。
4月1日，華東野戰軍開始南下。但南下行動於4月3日即被國民黨軍察覺。隨後，國民黨軍第1兵團即開始向臨沂地區收縮，轉入防禦。為加強第1兵團的守備力量，顧祝同於4月10日急調第7軍和整編第48師東開臨沂附近，整編第9師進至新安鎮地區。同時，國民黨軍參謀總長陳誠決定：第2兵團的第5軍東移太平邑，準備向蒙陰進攻；第3兵團的整編第11師東移費縣，準備向青駝寺進攻，以威脅華東野戰軍的側背。
因此，華東野戰軍南下企圖未能實現，南下的3個縱隊停止在新泰、蒙陰、十字路之線待機。