萊蕪戰役之後，國民黨軍積極準備對山東解放區實施重點進攻。
1947年3月初，國民黨軍撤銷徐州、鄭州綏靖公署，組成由陸軍總司令顧祝同親自主持的徐州司令部，統一指揮原徐州、鄭州綏署的部隊，並將在冀魯豫戰場的整編第26軍王敬久部和在武漢的整編第9師調往山東。以「五大主力」中的「三大主力」，即整編第74師、第5軍、整編第11師為骨幹，分別編成3個機動兵團：以湯恩伯為司令官的第1兵團、王敬久為司令官的第2兵團、歐震為司令官的第3兵團，執行機動作戰任務。
這時，國民黨軍在山東的機動兵團的兵力，加上擔任守備任務的以王耀武為司令官的第2綏區、馮治安為司令官的第3綏區的兵力，總計已達24個整編師（軍）60個旅（師）45萬人，占其進攻全國各解放區總兵力的27%，占其重點進攻兵力的64%。國民黨軍在接受以前分路進攻常被分割殲滅的教訓後，決定採取「密集靠攏、加強聯繫、穩紮穩打、逐步推進」的新作戰方針，以加大兵力密度，集團滾進，企圖使解放軍無法分割和各個擊破。
國民黨軍進攻山東解放區的戰略步驟是：
第一步，以一部兵力打通津浦路徐州至濟南段和兗州至臨沂公路，完全佔領魯南解放區。
第二步，將主力推進到泰安、萊蕪、新泰、蒙陰、沂水之線，迫使華東野戰軍在魯中山區與其決戰，或壓迫華東野戰軍北渡黃河，以佔領整個山東解放區。
其具體部署：以第2兵團司令官王敬久指揮第5軍及整編第72、第75、第85師集結在汶上、寧陽地區，在第2綏區部隊策應下，首先打通津浦路濟南、兗州段，而後向萊蕪、新泰方向進攻；以第3兵團司令官歐震指揮第7軍及整編第11、第20、第48、第64、第84師集結在兗州、滕縣地區，在第1兵團、第3綏區協同下，首先打通臨沂至兗州公路，佔領魯南解放區，然後向新泰、蒙陰進攻；以第1兵團司令官湯恩伯指揮整編第25、第28、第57、第65、第74、第83師集結在東海、新安鎮、郯城、李家莊、臨沂、阿湖地區，先以一部配合第3兵團打通臨沂至兗州公路，而後以主力向蒙陰進攻；以第2綏區司令官王耀武指揮第8、第12、第54、第96軍及被殲後重建之第73軍，除配合以上行動外，分別集結在徐州外圍及青島、濰縣、濟南各要點擔任防禦。