1941年上半年，日華北方面軍為鞏固佔領區，確保重要資源開發地區及主要交通線的安全，先後對魯西、冀魯豫邊、冀東、冀中等平原抗日根據地進行分期、分區的大規模「掃蕩」，企圖利用平原地區青紗帳未起的時機，圍殲八路軍的主力及其領率機關，摧毀抗日根據地。各抗日根據地軍民齊心協力，艱苦奮戰，粉碎了日軍的「掃蕩」，堅持了平原根據地的抗日鬥爭。
日華北方面軍根據其大本營和中國派遣軍總部關於適應形勢演變，加強佔領區的「治安肅正」作戰，將華北建設成為南進的鞏固後方的指令和年度的「治安肅正」計畫，決心繼上半年「掃蕩」平原各抗日根據地之後，重點「掃蕩」山區各抗日根據地。其特點是：以其機動兵團及由各地抽調的兵力，構成暫時的局部的兵力優勢，在方面軍或軍的統一指揮下，採取「鐵壁合圍」、「梳篦清剿」，進行較長時間的、大規模的殘酷的「掃蕩」，力圖圍殲各抗日根據地的黨政軍領率機關和主力部隊，摧毀抗日根據地，使八路軍失去生存的條件。
1941年7月9日，日華北方面軍司令官多田駿下達對晉察冀抗日根據地作戰的命令。其方針是：「在擊潰晉察冀邊區共軍及消滅其根據地的同時，結合封鎖，破壞其自給自足，進而消耗、困死該地區的共產勢力。」參戰兵力為方面軍直轄兵團及第1、第12軍、駐蒙軍各一部，區分為進攻兵團和封鎖兵團。進攻兵團又區分為甲、乙、丙3個兵團，統由方面軍直轄，任務是深入抗日根據地內作戰，甲兵團以第21師團1個聯隊為基幹編成，作戰開始前部署在北平附近；乙兵團以第110師團第133旅團為基幹編成，作戰開始前部署於石家莊附近；丙兵團以第33師團為基幹編成，作戰開始前部署於太原附近。封鎖兵團由華北方面軍直轄部隊及第1軍、駐蒙軍各一部組成，分別在平漢路北段、正大路全線、同蒲路北段及淶源、廣靈、靈丘一線，對晉察冀邊區構成封鎖包困。其任務是：「切斷與敵地區的一切交通，以防止敵人逃跑，在不得已情況下，應將逃出之敵予以殲滅」，並負責進攻兵團的供應、援助，必要時，派出部隊深入抗日根據地配合進攻兵團作戰。
計畫作戰分兩期進行。第一期，預定約2個星期，「在此期間應向敵區進攻並擊潰敵集體戰鬥力」；第二期，預定約7個星期，「在此期間，各進攻兵團應分別在備該作戰區內搜索、掃蕩殘敵，並搬出和破壞敵資村設施」。日軍參戰兵力共6萬親人，另有偽軍1萬餘人。8月14日，日軍採取「鐵壁合圍」的戰法，開始了對晉察冀抗日根據地的大「掃蕩」，號稱「百萬大戰」。由新任華北方面軍司令官岡村寧次親自指揮。
晉察冀軍區根據八路軍總部6月21日關於日軍中條山作戰後可能大舉「掃蕩」抗日根據地等指示和敵情的重大變化，於7月22日發布反「掃蕩」訓令和政治工作指示，要求全區軍民做好長期反「掃蕩」的各項準備。
8月14日，日軍開始「掃蕩」，對晉察冀軍區部隊實行「鐵壁合圍」，重點「掃蕩」北嶽和平西地區，日軍為了隱蔽其「掃蕩」企圖，首先以甲兵團「掃蕩」平北抗日根據地的古北口、密雲地區；以乙、丙兵團「掃蕩」冀中地區深澤、安平、無極、安國等地區。同時，以封鎖兵團2萬親人對北嶽、平西區實施封鎖包圍。晉察冀軍區察明日軍動向後，於8月21日發出作戰命令，要求各部隊繼續完成反「掃蕩」準備工作，嚴密組織對敵之縱深偵察，防敵突然襲擊。
日軍在對平北和冀中地區「掃蕩」後，突然於8月23日將「掃蕩」重點轉向北嶽和平西地區。其甲兵團3000餘人由紅煤廠、涿縣、淶水等地分3路向平西十渡地區圍攻；乙兵團8000餘人由定興、方順橋等地分3路向北嶽婁山、水泉地區圍攻；丙兵團及其他部隊共1.5萬餘人，由新樂、正定、井陘等地分3路向中共晉察冀分局等機關所在的陳家院、陳庄地區圍攻。另以封鎖兵團的5000餘人由馬家莊、東峪、上庄等地出動，配合丙兵團向晉察冀軍區機關所在的蛟潭庄、灣子里、六畝園圍攻。
當各路日軍即將形成合圍之際，晉察冀軍區為避敵銳勢，保存力量，遂以主力一部結合地方武裝留在原地，開展廣泛、分散的游擊戰，與日軍周旋，消耗、疲憊日軍；邊區黨政軍機關迅速轉至阜平西北的馬駒石，主力部隊則按預定計畫進至平漢、正太路和進攻之敵的側後，對敵交通線、據點進行襲擊，在敵必經的干河、勞山、溫塘等地伏擊或阻擊，速戰速決，殺傷日軍。日軍合圍撲空，31日，以甲兵團6000餘人分6路合擊位於蓬頭、小峰口的平西地區黨政軍領導機關，再次撲空。與此同時，日軍乙、丙兵團等部共5萬餘人，對轉移至阜平地區的晉察冀邊區黨政軍領導機關進行大規模合圍。9月1日，晉察冀邊區黨政軍機關、學校近萬人被合圍於阜平以北以雷堡為中心東西約25公里，南北約35公里的狹窄地區內，處境十分危急。晉察冀軍區首長決定向西轉移至常家渠一帶山區。為迷惑日軍，軍區於1日黃昏派偵察分隊攜帶電台，到雷堡以東的台峪一帶，以「軍區呼號」與各方聯繫，故意暴露目標，使日軍誤認為，八路軍領導機關已向東轉移並仍在其合圍圈內。2日下午，日軍果然分兵7000餘人向台峪合擊。晉察冀邊區領導機關、學校乘機於當晚西進40公里，轉移到常家渠一帶山區。同時中斷與各方的無線電聯絡，在日軍重兵包圍中成功地隱蔽了5天。7日，軍區領導機關安全轉移到平山的東西文玉地區，繼續指揮反「掃蕩」作戰。日軍圍殲晉察冀邊區領導機關和主力部隊的計畫遂告破產。
9月4日，日軍轉入第二期作戰，對抗日根據地進行「梳篦清剿」。進攻兵團各部以大隊或中隊為單位分駐各要地，在封鎖兵團一部配合下，一面「搜剿」八路軍，破壞地方組織，捕殺群眾；一面有組織地摧毀抗日根據地和掠奪物資。闖入根據地腹地的日偽軍行動更為謹慎，手段更加狡猾，經常用化裝、奔襲、殺回馬槍等手段大肆「清剿」。日偽軍先以主力控制制高點，再以小部隊深入山溝搜挖「剔抉」，且多於夜間行動。為粉碎日軍的「清剿」，晉察冀軍區於9月7日和15日先後發出指示，要求各軍分區，一面適當集結主力一部，打擊日軍的交通運輸，消滅日軍搜山「清剿」部隊；一面採取更大的分散的游擊戰，打擊日偽軍和偽政權，恢複社會秩序。同時，要求地方武裝和民兵以游擊戰掩護群眾收割、保藏糧食，保衛秋收。北嶽，平西地區軍民遵照上述指示，積極開展反「清剿」鬥爭。
9月24日，日軍以3500餘人的兵力，「搜剿」狼牙山區。此時，在狼牙山區隱蔽著淶源、易縣、徐水、滿城4縣的中共黨政機關、游擊隊和周圍村莊的數萬群眾。晉察冀軍區第1軍分區以第1、第3、第20團掩護狼牙山的數萬軍民轉移。第1團第7連第2排第6班5位戰士斷後，25日，毅然將日軍引向狼牙山絕境棋盤陀，先後打退敵4次衝擊，斃傷敵90餘人，直到打光最後一顆子彈利手榴彈，砸完最後一塊能搬動的石頭，誓死不屈，英勇跳崖，班長馬寶玉、戰士胡福才、胡德林壯烈犧牲，副班長葛振林、戰士宋學義被山腰樹叢架住，由群眾救護脫險。後被譽為「狼牙山五壯士」。
9月24日，日華北方面軍命令進攻兵團集結回撤。甲兵團首先於10月1日開始逐次回撤。到10月15日，日軍進攻兵團、封鎖兵團基本撤出抗日根據地。日軍回撤時，晉察冀軍區迅速集中主力部隊，在地方武裝和民兵配合下，襲擊、伏擊、追擊日軍，給日軍以有力打擊。在北嶽、平西反「掃蕩」期間，晉西北、太行、太岳、冀南、冀魯豫、冀中、冀東抗日軍民，遵照八路軍總部指示，對平漢、同蒲、正太、北寧等鐵路和部分公路展開破擊作戰，襲擊日軍據點，破壞其交通，有力地配合了北嶽、平西軍民的反「掃蕩」鬥爭。
在2個多月的反「掃蕩」鬥爭中，北嶽、平西區八路軍部隊共作戰800餘次，殲滅日偽軍5500餘人，粉碎了日軍企圖消滅晉察冀邊區領導機關和主力部隊、摧毀抗日根據地的「百萬大戰」，但也付出了重大代價。八路軍傷亡2000餘人，人民群眾傷亡4000餘人，房屋被燒毀15萬餘間，糧食損失6000餘萬斤，給根據地人民的生產和生活造成了嚴重的困難。