早在4月下旬，120師在齊會地區就殲滅敵吉田大隊700餘人；6月下旬，在張騫寺殲滅河北民軍張蔭梧部3個旅共2500餘人，予敵頑偽以沉重打擊。7月以來，冀中陰雨連綿，河水猛漲，日寇在軍事上無法消滅我軍，竟滅絕人性地決堤放水，使冀中平原成為一片澤園，妄圖把我軍置於死地。同時，國民黨也在積極準備掀起第一次反共高潮。
120師依靠廣大群眾艱苦奮鬥，與敵人展開了兩個月的水上游擊戰爭後，8月間，奉命返晉察冀邊區整訓，該師除留第2、3、4、5、6等5個支隊，由第3支隊長賀炳炎、政治委員余秋里統一指揮，堅持冀中鬥爭外，師主力獨立第1旅（缺715團）、第2旅、獨立第1支隊等分兩個梯隊，於8月18日從深縣之東西黃龍、南北溪村、大流、德朝等地出發向西轉移，越過平漢路，9月初抵行唐西北之秦家台羊、口頭鎮、南北城寨，黃龍港地區集結。部隊進行整編：獨立第1旅之1、2團合編為2團；獨立第2旅改為358旅，第4、5團合編為4團。整編後立即布置整訓。
冀中根據地的這個秋天，山川溝谷里到處呈現出一派迷人的景象。咧嘴的長玉米，壓彎了腰的谷穗，鮮紅的大棗，掛滿枝頭的蘋果、柿子、核桃也都快要成熟了；慈河兩岸的蘆花在微風中輕舞，鳥兒也在盡情歌唱，鄉親們都沉浸在這豐收的喜悅之中。就在這樣一個萬物收穫的季節，日軍為了搶奪糧食、破壞根據地的秋收，大量調動兵力，加緊準備對八路軍根據地的秋季掃蕩。
對於敵人的這一企圖，八路軍首長早有預料。9月15日，時任晉察冀軍區司令員兼政治委員的聶榮臻，以及八路軍120師賀龍師長、關嚮應政委聯名通知邊區軍民，敵人正在調動兵力，有向八路軍根據地進犯的跡象。並命令358旅旅長張宗遜和政治委員張平化負責指揮120師第一梯隊的部隊，在北嶽區軍民的協助下，粉碎敵人的進攻。同時指示：各地方武裝、後方機關、學校、救亡團體和人民群眾做好反「掃蕩」的準備。
邊區軍民接到命令後，便遵照軍區首長的指示緊急行動起來。於9月16日下午召開了東石門會議，就保衛秋收、粉碎「掃蕩」進行了部署。邊區的各鄉、村都作了充分的準備。從慈峪鎮到陳庄鎮沿途幾十個村子都組織了青年基幹隊、抗先隊協助部隊挖陷阱、埋地雷；各村的婦救會也組成了擔架隊，準備戰時搶運傷員；孩子們也成立了兒童團，平時站崗放哨，擔任警戒。總之，從譚庄到岔頭十多公里的慈河兩岸，邊區軍民嚴陣以待，準備到時候聯手降妖除魔。
果然不出賀龍師長所料，9月24日，日軍獨立第8混成旅團水源義重旅團長，率步兵獨立第31大隊，以及駐石家莊、正定、行唐、靈壽等地的日偽軍2000餘人，強拉200多名農夫，數十輛大車，突然集中於靈壽縣城。9月25日，水源親率日偽軍2000餘眾，攜大炮、汽車、戰馬和輜重等，浩浩蕩蕩出靈壽縣城，向北進攻慈峪鎮。
敵人動用了所有的大炮、擲彈筒、機槍，輕重火器一起猛烈射擊，在慈峪鎮周圍大發淫威。八路軍四分區5團警戒部隊進行了頑強的阻擊，但終因寡不敵眾，只得撤出戰鬥，到中午時分日軍佔領了慈峪鎮。水源義重得意地命令他的參謀長向日軍華北總部報告：「9月25日12時，皇軍攻佔了靈壽中部大集鎮——慈峪。」
得知敵人的行動後，賀龍師長急率師部和716團，一天一夜急行90公里，趕來參戰。賀龍判斷敵人的目標不會單純僅僅是慈峪，很可能是以此為依託進攻陳庄。陳庄距靈壽縣城50餘公里，從縣城到陳莊主要道路是經慈峪、岔頭兩鎮的一條大路，除此之外，雖有幾條繞行的小路，但都不便於敵重火器的機動。以前，敵人多次騷擾陳庄都是走的大路，所以賀龍估計，這次敵人很可能還走這條大路。因此，決定集中主要兵力部署在北譚庄至岔頭一線慈河兩岸的山峪上，布成口袋陣，待敵來犯。
佔據北譚庄東西側陣地上的八路軍部隊，採取誘敵深入的辦法，牽引著敵人向設伏地域前進，部署在譚庄鄉北側至岔頭鎮慈河兩岸設伏的主力部隊則在陣地上耐心地等待著。
但他們從中午一直等到太陽快落山了也未見敵人的影子。黃昏過後，八路軍719團的偵察員報告：「日軍進入北譚庄和西伍河一帶，即停止前進。」是夜，八路軍716團以白頭山作依託幾次向佔領譚庄之敵發起進攻，想誘敵出戰，而狡猾的敵人卻只以火力還擊，不肯前進一步。