3月下旬，國民黨軍的3個兵團開始行動。陳毅、張鼎丞、鄧子恢正在南線視察部隊，他們感到形勢的嚴重，27日致電後方指揮的粟裕、陳士榘，要求結束部隊休整，準備作戰。
關於作戰方向，陳毅指出四點設想，最傾向於主力南下向臨沂、東海、新安之間突擊。粟裕、陳士榘研究了陳毅的意見，很快擬訂了南下作戰計畫，28日報中央和陳毅、饒漱石。電報中說：為粉碎頑之企圖，使頑防線延長，逼頑分散兵力和支援華中鬥爭，我們擬以3個縱隊（2、7、8縱共8.2萬人）伸入郯城、碼頭、新安鎮。再向西擴張，佔領運河線，以威脅津浦鐵路之勢，吸引74、83師回援。以主力第1、3、4、6、9縱隊集結於蒙陰東南、臨沂西北地區，待機殲滅敵74、83師。或殲滅泗水方向之11師、大汶口方向之5軍。以上部署從4月1日開始行動，14日左右打響。陳毅批准了這個方案，於是粟裕、陳士榘等人率野戰軍指揮所南下，與陳毅在蒙陰縣坦埠鎮會合。
出乎意料的事情突然發生了。華野主力南下是晝伏夜行，自帶乾糧，不驚擾百姓，按說是相當隱秘的。但是我軍剛剛行動三天，國民黨軍就發現了我軍的行動和企圖。
4月3日，國民黨飛機轟炸了坦埠地區，陳毅、粟裕和華東野戰軍指揮所的同志經歷了一次死亡的威脅。當年在司令部工作的王德同志回憶：「就在我野指機關南移到坦埠附近一個村莊里，第三天就遭到敵人飛機的轟炸掃射。幸虧那時我們還注意防空，進村那天，我就囑咐管理科長方如玉，要他給首長們準備個防空洞，要稍大一些，因為那時粟副司令的愛人楚青同志、譚副政委的愛人郭惠民同志，都跟隨野指行動。張茜同志還擔任了警衛排的指導員。炸彈都丟在莊子的中心點，那裡住的是機關工作人員，大家早就分散到村外去了。首長和家屬原先分散住在村邊的零散小屋裡，又有挖好的防空洞，所以沒有傷亡。」（王德：《華東戰場參謀筆記》第4章第2節）
坦埠遇險，使陳毅、粟裕感到驚訝。敵人何以這麼快就掌握了我軍的行動，情報又是如此準確。他們以為是保密工作出了問題，4月15日向中央報告說：「我們主力南移後，原擬於12日前後開始執行28日電作戰方案。但我軍行動與企圖，三日即為敵人發覺，對我軍部署敵人均很清楚。我軍指揮所移至蒙陰東之坦埠附近，僅三日，即遭轟炸（中作戰室、機要科、政治部、警衛隊，除警衛隊傷數人外余無損失），敵方並完全知道我指揮所駐地。如依電台測向器諒不致如此准靠。恐密本電台有誤，故在南移中，除北線仍留有偽裝電台外，我們根本未與各縱通報，恐系內奸告密，現正追查中，並儘力減少通報。凡作戰命令均用口頭或書面傳達，但部隊南移，於晨昏時被敵機發覺，亦為原因之一。」（《中國人民解放軍第三次國內革命戰爭史料選編》第2輯第1冊）
後經追查才知道，有個補充到指揮所直屬隊的俘虜兵，原系國民黨軍排長。他得知我軍的行動計畫後，便開小差投奔國民黨軍告了密。這是一個深刻的教訓。
國民黨方面掌握我軍行動方向，1縱等主力南下作戰已不可能，原作戰計畫需要改變。陳毅等人研究了敵軍的行動，感到魯西南地區敵軍力量相對薄弱一些。
為了分散敵軍兵力，求得在運動中殲敵主力，野戰軍指揮部決定以1、3、10縱組成西線兵團，由陳士榘參謀長、唐亮主任統一指揮攻擊泰安。其餘各縱隊待機行動。