日偽軍將領蝟集在一起研究作戰計畫時，中共中央的領導人和八路軍的將領們也在忙碌地準備著進行最後反攻。4月12日，毛澤東在延安高級幹部會議上所作的報告中指出：「現在的任務是要準備擔負比較過去更為重大的責任。我們要準備不論在何種情況下把日寇打出中國去。為使我黨能夠擔負這種責任，就要使我黨我軍和我們的根據地更加發展和鞏固起來，就要注意大城市和交通要道的工作，要把城市工作和根據地工作提到同等重要的地位。」
7月1日，又發出《中共中央關於整訓軍隊的指示》，指出：全軍目前47萬人，欲以此在反攻前堅持與發展根據地是夠用的，但欲以此在反攻中奪取大城市與交通要道，最後驅逐日寇出中國，並對付國民黨方面來的可能的國內突然事變，則是不夠的。要擔負最後驅逐日寇出中國，並對付可能的突然事變，非有一倍至數倍於現有的軍事力量不能勝任。
於是，共產黨不但在為最後反攻做準備，而且也開始為應付戰後的不測事件做準備。
共產黨、八路軍不但在政策方針和兵力部署上為反攻做準備，而且在作戰方法上也在進行準備，這就是從「游擊戰」發展為有條件的「運動戰」。
在接到中央要求為反攻做準備的指示之前，山東的八路軍已經開始行動了。他們在羅榮桓的領導下，制定了總的戰略部署，其內容是：完全控制沂魯山區，擴大諸日莒山區根據地，奪取深入解放區的孤立的日偽軍據點，擴大解放區，使膠濟路南的3個戰略區完全連成一片；向膠濟路東段兩側地區發展，以打通和加強膠濟路老山前線各戰略區的聯繫；在膠濟路北，徹底改變渤海區被敵封鎖分割的局面，變游擊區為根據地；進一步肅清膠東心腹地區的日偽勢力，創造更有利的局面。
根據上述原則，山東軍區從1944年初開始，連續實施了一系列攻勢行動。首先於1月21日，在日（照）莒（縣）公路的石溝崖殲滅了漢奸朱信齋部。接著，魯南、膠東、渤海3個軍區的部隊，先後襲占和逼撤了一批日偽軍據點，並殲滅日偽軍一部。
1944年初，羅榮桓關注的重點是魯中軍區第3三次討伐吳化文部。
在討伐吳化文戰役結束後，為進一步擴大勝利成果，配合正面戰場作戰，保衛夏收，羅榮桓又指揮各軍區，發動了大規模的夏季攻勢。到1944年8月，山東戰場的形勢發生了更大變化，對八路軍更為有利。
然而，八路軍春、夏兩季攻勢使坐鎮濟南的日軍司令官細川中康中將極為恐慌，各地告急的電報雪片般飛來。細川拿起放大鏡伏在一張1/15的軍用地圖上，他的管區里沒有一處是平安的，到處戰火紛飛。他想集結兵力去撲滅這些驟然而起的戰火，卻不知從何處下手。他的前任有足夠的兵力實施大規模的「拉網式」的掃蕩。今非昔比，日軍的精銳大多調往了南洋，新編成的旅團兵員老化，缺乏訓練，已經喪失了大戰初開時的銳氣。相反，中共軍隊卻經過六七年的戰爭錘鍊，越戰越強，他們沒有重武器，便能攻下像沂水那樣設防堅固的城市，一次能打垮擁有上萬兵力的吳化文。
細川放下放大鏡，困獸般來回踱步，牆上掛著那柄天皇親賜的軍刀，還有一面岡村寧次贈送的太陽旗。
4個月前，華北方面軍全體將官齊集北平參加「一號作戰」的兵棋演練。岡村寧次不知出於何種動機，向每位將官贈旗一面，並親書「武運長久」四字。細川抬頭見旗上的字跡好像淡了許多，他擔心哪一天那4個字會突然消失。
最近，的確武運不佳，參加「一號作戰」的將領們戰果輝煌，都獲得了天皇頒發的勳章。他的師團留守山東，被分散在多如繁星的據點上陷於共軍游擊戰的汪洋大海中，偏偏共軍借皇軍兵力空虛之機四面出擊，面對遍布山東全境的戰火，細川中康司令官不知所措。要想大規模「掃蕩」卻心有餘而力不足；集結兵力「掃蕩」一地，又有顧此失彼之虞。對此，細川焦慮萬分。