1940年8月至12月，八路軍在華北敵後戰場發動了「百團大戰」。這一戰役給日軍以沉重打擊，使日軍受到極大震動。因而，日軍在1939年增兵華北的基礎上，1941年繼續向華北增兵。與此同時，日本陸軍中央部著手發動太平洋戰爭。為了適應中國戰場和發動太平洋戰爭的需要，大本營在1941年對侵華日軍做了如下調整：
2月14日，下令將第11軍的第33師團、第13軍的第17師團調往華北。根據上述命令，第11軍之第33師團除留下第33步兵聯隊荒木支隊（第33聯隊長荒木正二指揮步兵第215聯隊、山炮兵1個大隊為基幹）在安義地區外，其餘部隊於4月上旬到達華北，配屬第1軍作戰；第17師團於4月間配屬第12軍，擔負蘇北、皖北地區的警備。
7月25日，下令撤銷華南方面軍的戰鬥序列，編組第23軍。同時，將近衛師團調歸第25軍。
8月12日，將第23軍編入中國派遣軍戰鬥序列（建制轉移時間為8月15日零時）。
8月15日，將第23軍主力第48師團（駐福州）編入台灣軍司令官屬下。11月6日，又將該師團調歸第14軍戰鬥序列。
9月7日，大本營計畫調第3飛行集團參加南方（南洋）作戰，11月8日下令另編第1飛行團擔負中國戰場的作戰任務，11月15日令第3飛行集團加入南方軍。
9月18日，將關東軍屬下的第51師團調歸第23軍戰鬥序列。
11月6日，將大本營直屬的第5師團、第23軍所屬的第18師團調歸第25軍戰鬥序列；將第12軍所屬的第21師團調歸南方軍戰鬥序列；將第11軍所屬的第33師團調歸第15軍戰鬥序列。
11月8日，將第11軍所屬的第4師團改為大本營直屬。
經過上述調整，到12月8日侵華日軍的戰鬥序列如下：
中國派遣軍總司令官俊六大將（1941年3月任職），總參謀長後宮淳中將，司令部駐南京。下轄華北方面軍，第11、13、23軍，第1飛行團。
一、華北方面軍司令官：岡村寧次大將，參謀長：安達二十三中將，司令部設北平。下轄第1、12軍，駐蒙軍，第27、35、110師團和獨立混成第1、7、8、15旅團。
第1軍司令官：岩松義雄中將，參謀長：花谷正少將，司令部設太原。下轄第36、37、41師團和獨立混成第3、4、9、16旅團。
第36師團師團長：井關仞中將，參謀長：今村新太郎大佐
第37師團師團長：長野佑一郎中將，參謀長：濱田弘大佐
第41師團師團長：清水規矩中將，參謀長：田島彥太郎大佐
獨立混成第3旅團旅團長：毛利末廣少將
獨立混成第4旅團旅團長：津田美武少將
獨立混成第9旅團旅團長：池之上賢吉少將
獨立混成第16旅團旅團長：若松賓士少將
第12軍司令官：土橋一次中將，參謀長：河野悅次郎少將，司令部設濟南，下轄第32師團，獨立混成第5、6、10旅團。另有第13軍之第17師團從1941月3月14日配屬第12軍擔負蘇北、皖北的警備任務，1942年1月1日歸還第13軍建制。
第32師團師團長：井出鐵藏中將，參謀長：吉田榮治郎大佐
獨立混成第5旅團旅團長：內田銀之助少將
獨立混成第6旅團旅團長：盤井虎次郎少將
獨立混成第10旅團旅團長：河田追太郎少將
駐蒙軍司令官：甘粕重太郎中將，參謀長：稻村豐二郎少將，司令部設張家口，下轄第26師團、獨立混成第2旅團、騎兵集團。
第26師團師團長：矢野音三郎少將
獨立混成第2旅團旅團長：真野五郎少將
騎兵集團集團長：西原一策中將
方面軍直轄兵團：
第27師團師團長：富永信政中將
第35師團師團長：原田雄吉中將，參謀長：白瀧理四郎大佐
第110師團師團長：飯沼守中將
獨立混成第1旅團旅團長：鈴木貞次少將
獨立混成第7旅團旅團長：林芳太郎少將
獨立混成第8旅團旅團長：吉田豐太郎少將
獨立混成第15旅團旅團長：田中勤少將
二、第11軍司令官：阿南惟幾中將，參謀長：木下勇少將。司令部設漢口，下轄第3、6、13、34、39、40師團，獨立混成第14、第18旅團。
第3師團師團長：豐島房太郎中將，參謀長：山本清衛大佐
第6師團師團長：神田正種中將，參謀長：山之內一郎大佐
第13師團師團長：內山英太卯中將，參謀長：秋永力大佐
第34師團師團長：大賀茂中將，參謀長：志村文雄大佐
第39師團師團長：澄田錸四郎中將，參謀長：山崎正男大佐
第40師團師團長：青木成一中將，參謀長：久保滿雄大佐
獨立混成第14旅團旅團長：中山亨少將
獨立混成第18旅團旅團長：堤不夾貴少將
三、第13軍司令官：澤田茂中將，參謀長：唐川安夫少將，司令部設上海。下轄第15、17、22、116師團，獨立混成第11、12、13、17、20旅團。
第15師團師團長：酒井直次中將，參謀長：川久保鎮馬少將
第17師團師團長：平林盛人中將，該師團4月間配屬第12軍，1942年1月歸建
第22師團師團長：太田勝海中將，參謀長：山脅正男少將
第116師團師團長：武內俊二郎中將，參謀長：山田卓爾大佐
獨立混成第11旅團旅團長：堤三樹南少將
獨立混成第12旅團旅團長：南部襄吉少將
獨立混成第13旅團旅團長：山村治雄少將
獨立混成第17旅團旅團長：谷川正憲少將
獨立混成第20旅團旅團長：池田直三少將
四、第23軍司令官：酒井隆中將，參謀長：栗林忠道少將，司令部設廣州。下轄第38、51、104師團，獨立混成第19旅團，第1獨立步兵隊，第1炮兵隊。
第38師團師團長：佐野忠義中將
第51師團師團長：中野英光少將
第104師團師團長：菰田康一中將
獨立混成第19旅團
第1獨立步兵隊
第1炮兵隊隊長：北島驥子雄中將
五、第1飛行團團長：秋山豐次少將，1941年11月8日編成。
上述部隊中，參加此次1941年11月對沂蒙山進行大「掃蕩」戰役的，主要有第12軍第17師團、第21師團、第32師團、第36師團、第5混成旅團、第6混成旅團、第7混成旅團、第10混成旅團；第1軍第3混成旅團（部分部隊）、第4混成旅團（部分部隊）、第9混成旅團（部分部隊），共約10萬人。