如楊成武所預料的那樣，11月4日凌晨，楊成武又接到情報：駐張家口日軍出動其精銳部隊獨立混成第2旅團所屬各部，1500多人（偽軍除外），分乘90多輛卡車急馳淶源。很顯然，敵人是進行報復性「掃蕩」來的。
當楊成武在管頭指揮部用電話把這些情況報告給聶榮臻司令員後，聶榮臻很快來了電話：「成武同志，你爭取打個更大的勝仗吧！賀龍同志怕你兵力不足，決定讓120師特務團從神南北上，天黑前趕到黃土嶺地區，歸你指揮。此外，我們讓20團、26團、34團鉗制滿城、徐水等地的敵人。」這樣，參戰部隊除1分區的1、2、3、25團，分區炮兵部隊外，還有3分區2團和120師特務團，以及游擊3支隊，取勝就更有把握了。
楊成武想到，日軍上次分兵3路吃了大虧，這次恐怕不會再分兵了，可能集中力量一路「進剿」，極力尋找八路軍主力決戰。但他並不知道，率領這支敵兵的指揮官，竟是赫赫有名的阿部規秀中將。
阿部規秀中將，在日本軍界赫赫有名。他1886年生於日本青森縣，1907年5月31日畢業於日本陸軍士官學校第19期步兵科。畢業後進入部隊，歷任步兵第32聯隊副官、第18師團參謀、陸軍教導學校學生隊隊長、步兵大佐、聯隊隊長等職，晉陞為陸軍少將後擔任關東軍第1師團步兵第1旅團旅團長，率部隊入侵東北。1939年10月，阿部規秀晉陞為中將，現任「蒙疆駐屯軍」司令長官併兼任第2混成旅旅團長。
日軍的旅團長一般都由少將擔任，中將往往都擔任師團長的職務。由於在1938年10月，原第2獨立混成旅團旅團長常岡寬治少將被八路軍在廣靈縣境內的張家灣擊斃，日軍於是調任阿部規秀兼任該精銳旅團旅團團長，並對其寄予厚望。
阿部規秀向來恃才傲物，蠻橫不可一世，對日本天皇誓死效忠，是一名典型的法西斯軍國主義者。在抗日戰爭爆發後，他一直致力於對中國軍隊的瘋狂進攻，並推出了所謂的「山地討伐新戰術」。在上司眼中他是擅長使用「新戰術」專門對付八路軍游擊戰的「俊才」和「山地戰專家」。阿部規秀憑藉其硬朗的指揮風格一路平步青雲，在日本軍界享有「名將之花」的盛譽，深受日本軍方高層的器重。
阿部規秀自從率領部隊入侵東北以來，一路暢通無阻，從未受過什麼挫折。在擔任「蒙疆駐屯軍」司令官兼任第2混成旅旅團團長後，他蠢蠢欲動，迫切地想要表現自己，急於論證他那套「山地討伐新戰術」，對於打擊八路軍游擊隊是多麼有效。到任後不久他就開始著手對晉察冀邊區進行「掃蕩」，妄圖徹底肅清晉察冀邊區的八路軍武裝力量。
這次他派出第2獨立混成旅團下轄的3個大隊，兵分3路對晉察冀邊區進行「掃蕩」。他驕傲自負，從心底看不起八路軍游擊隊。在他眼中八路軍不過是一群剛放下鐮刀端起槍的烏合之眾，根本不能和大日本帝國的精銳皇軍相提並論。他深信在不久的將來八路軍就會被徹底消滅掉，現在需要的只是時間的問題。
村憲吉大隊被殲，使剛剛晉銜的阿部規秀在天皇面前丟了臉。所以，他第二天就親率精銳之師出馬「掃蕩」了，準備置八路軍於死地。臨行前，他在一封家信中這樣寫道：
……爸爸從今天起去南方戰鬥！回來的日子是11月13日，雖然不是什麼大戰鬥，但也將是一場相當的戰鬥。8時30分乘汽車向淶源出發了！我們打仗的時候是最悠閑而且最有趣的，敵人已經逐漸衰弱下去了，再使一把勁就會投降……
11月5日，阿部規秀親率1500多名日軍從龍虎村向白石口進犯。八路軍1團1營5、6連與25團一部在白石口與敵接火，忽而堅決堵擊，忽而大踏步後撤，使阿部規秀既求戰不能又追趕不及，氣得暴跳如雷。
當晚，日軍到達銀坊鎮，實施「三光」政策。銀坊一帶村莊大火衝天，徹夜不熄，好在群眾都已撤離，沒有受多大的損失。11月6日，日軍兩次撲空後，離開銀坊鎮，傾師東奔黃土嶺。
「敵人來了！」消息傳來，各團士氣大振。
為了誘敵深入，以利圍困聚殲，埋伏在黃土嶺附近的八路軍沒有驚動緩緩東進的敵軍。晚間，日軍搭起帳篷，解開行裝，在黃土嶺、司各庄一帶宿營了。
八路軍各部隊乘夜進行兵力展開。
黃土嶺這個地名，聽起來讓人覺得這個地方是個土山，其實不是，它是太行山北部淶源、易縣交界處群山中一座埡口，四周有許多深溝大谷和一條不甚寬的河灘。時已深秋，山裡冷得早，樹林已脫盡葉子，地上是一片枯草。
11月7日早晨，日軍在密密的雨絲中拔營前進了。中午12時，日軍先頭部隊已接近黃土嶺附近的寨坨村。下午3點鐘左右，日軍全部人馬離開了黃土嶺，陸續進入狹谷中的小路。
這時，八路軍第1團、25團迎頭殺出，3團及3分區的2團從西南北三面合擊過來，把日軍團團圍住，壓縮在上莊子附近一條長約1.5公里、寬約100米的溝里。八路軍100多挺機槍從各個山頭一齊朝溝中猛掃。分區炮兵部隊連續發射了數發炮彈，這條山溝立刻被彈片、碎石和濃煙所覆蓋。
但到底是日軍的精銳部隊，稍後，日軍就在將官的督促下，開始在教場東西山谷的河灘中組織兵力拚搶孤石山及山腳一線的狹窄山樑。打紅了眼的日軍瘋狂地叫喊著，在八路軍密集的火力下撲向山樑。
絕不能讓敵人的垂死掙扎得逞，正在這時，1團團長陳正湘從望遠鏡里發現，在南山根東西兩向的山樑上，有3個向北凸出的小山包，中間的那個山包上有幾個挎戰刀的日軍軍官和幾個隨員，正舉著望遠鏡向793高地及上莊子方向觀望；在教場小河溝南面距南山小山頭100米左右的一個獨立小院內，也有挎戰刀的日軍軍官進出。
陳正湘判斷，獨立小院應是敵指揮所，南面小山包是敵觀察所。他當即命令通信主任邱榮輝跑步下山調炮兵連迅速上山，在團指揮所左側立即展開。當時，指揮炮兵連的是連長楊九祥。
4發炮彈呼嘯著命中目標。從望遠鏡里觀察，小山包上的敵人拖著死屍和傷員滾下山去了。獨立小院的敵人跑進跑出，異常慌亂。
為了進一步殲滅敵人，炮兵連又向獨立小院北面的山溝里連發數發炮彈。
陳正湘的判斷是正確的，獨立小院正是日軍的指揮所。但是他和楊九祥誰也不知道，阿部規秀在這次炮擊下斃命了。
不久，日軍駐保定的第110師團、駐大同的第26師團、駐張家口的獨立混成旅團余部紛紛出動，從靈丘、淶源、唐縣、易縣、滿城等方向分多路向黃土嶺合擊，先頭部隊距黃土嶺不到15公里了。敵人企圖在八路軍的包圍圈外面對八路軍形成一個更大的包圍圈，把八路軍參戰部隊一網打盡。
戰局發生了變化，全部殲滅敵人之戰機已失。聶榮臻得知以上情況後，立即指示部隊撤出戰鬥。
黃土嶺戰鬥，是晉察冀軍區繼雁宿崖殲滅戰後又一次大勝利。這一仗共殲滅日軍900多名，繳獲200多輛載軍用品的騾馬車、5門火炮、幾百支長短槍及大批彈藥，還生俘了十多個日本兵。
戰鬥結束後的一天下午，聶榮臻突然給楊成武打來電話，他喜悅地高聲說：
「成武同志，好消息！延安拍來賀電，說你們打死了阿部規秀中將，我祝賀你們啊！」
楊成武又驚又喜，根本沒想到這位中將旅團長竟親自率兵進入黃土嶺，並且被八路軍打死了。於是，急忙給1團掛電話，轉告這個喜訊，並且要他們到戰場尋找阿部中將的遺物。
當天，阿部規秀的綉著兩顆金星的黃呢大衣和金柄指揮刀就被送到了楊成武這裡。後來，楊成武把這些東西派人送到了軍區，軍區又把它送到延安。
阿部規秀中將被擊斃，日本朝野震動，陸軍省發布了阿部規秀的陣亡公報。
《朝日新聞》以「名將之花凋謝在太行山上」的通欄標題，連續刊登悼念文章。這家報紙說：「自從皇軍成立以來，中將級軍官的犧牲，是沒有這樣的例子的。」其他各報刊也頻頻報道阿部的生平、戰功、死訊。他的骨灰送回東京時，「帝都降半旗誌哀」，可謂「哀榮」至極！
阿部規秀是八路軍在華北戰場第一次擊斃日軍中將指揮官，在中國人民抗日戰爭史上也是第一次。黨中央、八路軍總部和全國各地的友軍、抗日團體、著名人士，紛紛拍來賀電，祝賀八路軍所取得的勝利。全國各地報紙也紛紛報道黃土嶺戰鬥經過，刊登各種祝捷詩文。蔣介石也在1939年12月發來了電報：
朱總司令：
據敵皓日（19日）播音，敵村部隊本月江日（3日）向冀西淶源進犯……支日（4日）阿部中將率部馳援，復陷我重圍，阿部中將當場斃命等話語。足見我官兵殺敵英勇，殊堪獎慰。希飭將上項戰鬥經過及出力官兵詳查具報，以憑獎賞，為要。
中正