侵華日軍坂垣師團於1937年9月20日侵佔靈丘縣城，從9月23日起開始了有計畫的大屠殺，頭兩天殺害縣城居民600餘人。同時，侵犯靈丘附近四鄉之敵，也到處殺人放火。在一個月之內，靈丘被殺群眾達1200餘人，製造了慘暴至極的靈丘慘案。
1937年7月7日，日寇發動的盧溝橋事變的槍聲，很快傳到了靈丘。閻錫山委派的縣長、政府官員和他們的軍隊，一槍未打就棄城南逃。靈丘縣城有錢的人家，也帶著家口，攜帶金銀細軟逃之夭夭。只有多數窮苦農民，丟不下家裡的盆盆罐罐，無處可逃，就是跑出去，也因為無吃無喝無住處，不得不回來。有的逃到親友家躲起來，三天兩頭地跑回來看看，窮家難捨啊！絕大部分居民都留在靈丘城鄉。
當時，廣靈到靈丘必經之地的要隘——義泉嶺，有閻錫山劉奉賓部把守，許多人認為日本人一下到不了靈丘，還可以看看再說，他們哪裡知道，駐守義泉嶺的閻錫山部隊，見到日軍就一觸即潰，有的連日軍的槍聲也沒有聽到，就逃得無影無蹤了。
9月20日下午，日軍坂垣師團川原旅團暢行無阻地侵入靈丘城。這是一支南侵日軍的先遣部隊。由於他們急於南進平型關，把抓到的青壯年男子，給他們背運物資，把婦女抓起來給他們做飯，開頭幾天還沒有大批殺人，一些逃出去的人，有許多又返回縣城。
誰知這是日寇的緩兵之計。9月23日，由三浦敏事率領的日本第二十一旅團接防，便把城門緊閉，只准老百姓進城，不準出城。一清早，日軍便分批沿門逐戶大搜捕。凡是男人都要抓起來，連小孩也不放過，全部驅趕到集中點。全城集中點有三處，一處是城內東北角大雲寺後的大馬場，一處是北城牆下的奶奶廟外的大菜園，另一處是城內西北角財神廟、老君廟的空場上。有人預料這不是好事，總想找機會躲藏逃跑，但都被鬼子當場打死。住在南城門口開店的王進福，當他闖出城門南逃的時候，被打死在清水河邊；一個姓馬的住店客人，藏在廁所被發現遭鬼子用刺刀挑死。
一批一批群眾被逼到集中點。日軍已經在這三個地方運入了大批草繩和鐵杴。人們已經看清這是敵人有密謀的大屠殺，但是已經來不及逃跑了。成群鬼子兵逼著一部分青壯年鏟土挖坑，把其他群眾用草繩捆起來。整整一個上午，他們挖了許多深達丈余、寬達10餘丈的大坑。原來自己挖的坑正是自己的墳墓。大坑挖完了，敵人機槍就開火了，把挖坑的群眾統統打死，然後把被捆的群眾，逼到坑邊，一個一個用刺刀挑死推下坑去。
在大馬場，被鬼子槍殺和挑死者達300餘人，其中有劉廷干、劉漢英兄弟4人，有劉來德兄弟3人和他們的兩個孩子。在奶奶廟，被敵屠殺的有200多人，其中有李海一家4口，有郝登之一家3口。在財神廟、老君廟前，被殺者有袁耀國、武忠、劉廷雨等100餘人。三個場地遭日軍集體屠戮者達600餘人。
這一天，被敵人零星殺害者也不少。城外魁見帽鋪的劉玉珠、聶永耀進城找人，被鬼子抓住，綁在東街的樹上用刺刀挑死。日軍把抓捕的婦女也集中起來，強行剝光衣服，連裹腳布也強行撕掉，渾身上下一絲不掛，一面抽打，一面強迫她們裸體扭擺，然後這群野獸將她們集體強姦、輪姦。許多婦女當時即與鬼子撕打在一起，有的和敵人拚命，當場被殺死者10餘人。
日軍繼續四處搜捕，把抓到的居民帶到這個殺人場來，進行所謂殺人比賽和殺人表演。他們把抓到的人，按個子大小，分別綁成幾伙，強令跪倒，由日本兵揮動大刀分批砍殺。有的人頭被砍下滾在地上，有的人頭還連在脖子上，有的未被砍死倒在血泊里掙扎。如果持刀的日本兵把幾個被綁群眾的頭都能分別一刀砍下，便會受到圍觀日本官兵的稱讚，並發出瘋狂的笑聲；如果持刀的日本兵一刀連一個人也殺不死，便會受到日本軍官的嘰哩呱啦的喊罵，圍觀的日本兵也發出一陣陣喊叫和嘲笑。有的還把抓到的群眾強置在凳子上，一個個地砍殺。有時，把抓到的群眾當作練刺刀的「活靶」，一夥日本兵這個一刀，那個一刀，亂挑亂刺。城內有個姓丁的，被敵人刺了17刀，遍體刀傷，血肉模糊。當場敵人以為他死了，到半夜他又蘇醒過來，爬回家藏起來，不久靈丘解放，把他救活。以後，為了永遠不忘此深仇大恨，「十七刀」成了這個人的名字。侵華日軍就是這樣野蠻殘暴地屠殺我國無辜的同胞。
侵入靈丘的日軍，在縣城進行有計畫大屠殺的同時，還在靈丘各地製造屠殺慘案。僅在靈丘東河南、小寨村、關溝村、唐之窪4村，日本強盜就屠殺無辜百姓200餘人。
東河南是靈丘第一大鎮。9月23日，駐東河南的日本兵開始對村民大肆屠殺。他們沿街抓人，把抓捕的人統統驅趕到村西五道廟巷內殺死。敵人殺人手段很多，有的開槍打死，有的用刺刀挑死，有的戰刀砍殺。有個叫劉大成的中年農民，被兩個鬼子架起雙臂，由另一個鬼子用一根爐條硬從他的後腦頸部沿脊錐活活釘死，死後屍體長時直立不倒。第一天被慘殺者30餘人。第二天又進行了更大規模的屠殺，在村內逐戶搜查，在村外四處尋找。從村裡搜出70多名老弱婦孺，都被趕到五道廟巷慘殺。在村外，有7人在馬家河附近收割莊稼，其中有中野窩村宋啟瑤弟兄2人，都被開槍打死。古路河村一個老人到東河南賣柴，身背柴捆，手提一團豆渣餅作乾糧，被日本兵抓捕推倒刺死。只有東河南村的盧昌是個留日學生，23日上街和日本軍官用日語對話，他家才免遭搜殺，然而第二天他又上街，也被抓捕趕到五道廟巷殺死。兩天東河南村慘遭殺害的群眾達100餘人。
9月23日，小寨村的村民有的已經上地，有的還在家裡，鬼子一進村就分成幾路，在村內挨門逐戶搜殺，在村外散開四面搜山。鬼子兵進入村西的李夢壁、李文生、張同堂幾家土屋。李夢壁一家見鬼子殺氣騰騰闖進家來，妻子、兒子一家3口嚇得抱成一團。鬼子一刺刀捅進李夢壁兒子的臀部，血如泉涌，他痛得娘呀爹呀亂叫，李夢壁夫婦連忙用身子擋住兒子，鬼子又用刺刀把他們夫妻捅倒，3人仍緊緊地抱在一起，鬼子兵揮刀亂劈，一家3口人的下肢全被劈斷，死在血泊里。章江林母子3人在鄧家嶺樹灣收割莊稼，孫正老倆口和孫金貴與兒子兩人都在木瓜溝收莊稼，被搜山敵人全部開槍打死。楊子榮父子在鄧家嶺收割莊稼時，被日本兵逼到村邊的河溝，這個一刀，那個一刀，被練了刺殺。渾源縣一個老漢來小寨販果子，也被鬼子槍殺在果樹下。只有一個人幸免於難，他是住村口沙圪瘩的張本祥老漢。一個日本兵闖進他家，對準老漢舉槍就刺，張老漢是個擰鐵絲燈籠的手藝人，手上有功，見鬼子刺來，不閃不躲，伸手就把刺刀從槍上擰下來，鬼於慌忙開槍，子彈從張老漢身側飛過，老漢手拿刺刀就向鬼子猛撲猛刺，嚇得鬼子呀呀直叫，掉頭逃跑。張老漢探頭見村外河槽日本兵很多，他考慮跑不出去，趕忙鑽進窖子里。不一會兒，那個鬼子帶著一群日本兵進院搜捕，發現窖子，就向里射擊，投手榴彈，後又投入乾柴放火煙熏，不想張本祥老漢早用刺刀掏通鄰居另一個窯堂，安全逃脫。第二天，敵人繼續殺人放火。李石頭娘兒兩個藏在房子莜麥秸堆里。日本兵搜遍全村再找不到一個人，便放起火來，200多間房子全被燒毀，李石頭娘兒倆雙雙被燒死。兩天小寨村被殺鄉親30餘人。
關溝和唐之窪兩村被殺者也有幾十人。敵人在關溝四處搜殺，藏在村附近露明溝的20多個鄉親全被搜出來，多是老弱婦孺，面對這些孕婦、病人、孩子和女人，鬼子也不放過，一會兒用刺刀挑一個，一會兒用大刀劈一個，一會幾又用槍打一個。有一個王良樹，他的四肢全被卸掉，日本兵看著這些重傷未死者疼痛掙扎的樣子，發出瘋狂獰笑。在唐之窪，日本兵見人就殺。該村8個農民在地里收割莊稼，也被日本兵無緣無故地槍殺了。村民武連雲聽到慘叫聲，扒上牆向南張望，看到鄉親被殺的慘狀，驚得渾身發抖，血往上涌，當時口吐鮮血而死。本村宋培奔向出事地點，看著血肉模糊的一具具屍體，大叫一聲昏了過去，不久也嚇死了。
9月25日，震驚中外的平型關大戰，取得了殲滅坂垣師團的偉大勝利後，日軍把屠殺老百姓作為報復，駐守靈丘城的日軍，每天在城內逐戶搜捕，城內除留下少數為他們服務的男人外，大部分都殺了。他們又出城到城關的魁見、沙咀、沙坡、城道坡、東關、西關等街道院落逐戶搜殺。在街上，在許多院落到處都有慘遭殺害的群眾屍體。在沙坡，聶堯的15歲的侄兒聽到日軍搜捕，趕緊往窖里藏，被敵人在牆外發現瞄了靶子，打死在窖口邊。鬼子進院後，往窖里扔了幾個手榴彈後離開。聶堯的嫂子在柴垛里藏著，看到兒子被打死，跑出柴垛抱起兒子放聲痛哭，敵人聞聲返回，又把聶堯嫂子開槍打死。杜錦繡一家在城西福田村藏著，這天他和兒子杜四回家取東西，正遇上從聶堯院出來的日軍，杜錦繡被敵人用刺刀挑死在家裡，杜四跳窗而出，赤手空拳和日軍展開