8月20日，八路軍總部所在地山西武鄉縣王家峪濃雲密布，氣壓很低，悶熱異常，預示著一場暴風雨即將來臨。20時整，各兵團按總部統一規定的時間發起攻擊。隨著彭德懷一聲令下，一顆顆攻擊的紅色信號彈騰空而起，剎那間，在5000里長的敵後戰場上八路軍全線出擊，向華北的主要交通線開始了戰役的總破擊。這是一個永載史冊的時刻。
親自參加過戰役指揮的聶榮臻元帥後來回憶說：
我清楚地記得那一時刻的情景，真是壯觀得很啊！一顆顆攻擊的紅色信號彈騰空而起，劃破了夜空，各路突擊部隊簡直像猛虎下山，撲向敵人的車站和據點，雷鳴般的爆炸聲，一處接著一處，響徹正太路全線。指揮所幾個年輕參謀激動地對我說，他們參軍以來，還沒有見過這樣紅火的戰鬥場面。
由於事先成功的保密及佯動，正太路日軍一點沒有覺察這麼大的戰役行動。戰鬥一打響，沿線各據點同時被攻，日軍猝不及防，處處被打，到處響起槍聲和爆炸聲，敵人的無數據點，同時發出了求援的電報和信號。石家莊、太原、陽泉各旅團司令部的日軍指揮官，一時手足無措，不知從何處調兵，又往哪裡增援。當日軍清醒過來後，便開始組織頑強的抵抗，破擊部隊的攻擊也更加猛烈，戰鬥十分激烈。
如同在前線激烈戰鬥的指戰員一樣，彭德懷在這一夜也是徹夜未眠。他的心情相當激動。這次行動是敵後抗戰的第一次大的攻勢行動，動員了八路軍整個華北地區所有的力量，它將給日寇以沉重的打擊，給那些認為八路軍「游而不擊」的人一記響亮的耳光，對全國的抗日形勢產生重大的影響。一想到這裡，彭德懷便心潮澎湃。他與左權坐在一起，沉思不語，任憑思緒像大海一樣奔涌。
難熬的夜晚終於過去，源源不斷的捷報隨著曙光一道來到緊張而又安靜的八路軍總部。
聶榮臻所在晉察冀軍區戰報：楊成武部向正太路娘子關段及井陘以北各據點之敵突然發動猛攻，至今日獲得序戰勝利，連克乏驢嶺、北峪、地都等據點，守敵共200餘人被完全消滅，乏驢嶺至地都段鐵路及橋樑、碉堡、電線等悉被破壞。一部攻佔井陘北賈庄鎮、東王會，守敵百餘人亦被消滅殆盡，並完全佔領井陘煤礦，解放工人2300餘人，所有礦井、機器全部炸毀，繳獲正在清查中。郭天民部正向娘子關猛烈進攻中，雙方槍炮聲猛烈。
劉伯承第一二九師戰報：在正太路西段破擊的第一二九師左翼破擊隊陳賡旅，攻擊了壽陽西南之蘆家莊，生俘日軍3名，連克碉堡4座，守敵被消滅凈盡，完全佔領蘆家莊車站。蘆家莊以西10里以內鐵路橋樑完全被破壞。
賀龍第一二零師及冀南軍區都發來了戰報。八路軍總部駐地一片歡騰。戰役序戰勝利，完全按照設想進展。作為戰役的直接指揮者，彭德懷輕舒了一口氣。
從21日到22日，八路軍總部忙得不亦樂乎。劉伯承、聶榮臻等不斷地報告正太路各襲擊兵團破襲情況，其他配合破襲正太路戰役的部隊也紛紛傳來捷報，同蒲路、平漢路、北寧路、津蒲路、德石路、白晉路等都戰果輝煌，實現了預期的作戰目的。
平常不苟言笑的彭德懷露出了難得一見的笑容。他問作戰科長王政柱：
「我們參戰兵力一共有多少個團？」
「正太線30個團，平漢線盧溝橋至邯鄲段15個團，同蒲線大同至洪洞段12個團，津蒲線天津至德州段4個團，德石線4個團，白晉線6個團，北寧線2個團，平綏線2個團，汾陽至軍渡公路線6個團，滄縣至石家莊路線4個團，北平至大同公路線6個團，邯鄲至濟南公路3個團，代縣至蔚縣公路線4個團，遼縣至平定公路線3個團，寧武、岢嵐、靜樂公路線4個團，一共105個團。」
王政柱話音剛落，左權說：「好！這是百團大戰，作戰科要仔細查對確數。」彭德懷聽罷，接過話頭說：「不管一百多少個團，乾脆就把這次戰役叫做百團大戰好了！」從此，正太戰役改稱為百團大戰。
此時，前線的戰鬥仍在激烈進行。
聶榮臻的晉察冀軍區負責破襲正太路東段。此段有敵堅固設防的天險娘子關和重要燃料基地井陘煤礦。
娘子關是長城的第九座雄關，晉東的重要門戶，是由冀入晉的咽喉要道。相傳唐高祖的女兒平陽公主，曾率娘子軍在此助父征戰，故得名娘子關。早在三年前，八路軍第一二九師就曾配合國民黨軍進行娘子關保衛戰。娘子關在失陷前構有國防工事，日軍佔領後又依據險峻的山崖加修四個大堡壘，使該關防禦能力進一步增強，可謂易守難攻。
20日20時，擔任主攻任務的晉察冀軍區右縱隊第五團首先潛入娘子關村，解決了村裡的偽軍，然後依託村莊，仰攻日軍堡壘。在日軍密集的火力封鎖下，攻關部隊前仆後繼，雲梯被打斷了，就搭人梯上，將綁腿帶聯結在一起搭上懸崖向上攀登。但佔據有利地形的日軍，憑藉其優勢裝備，對進攻的八路軍戰士發起反撲，八路軍正面攻擊一時受挫。正當此時，由娘子關側後迂迴的部隊，正好接近到日軍堡壘群附近，由側後向日軍發起不停頓的攻擊。日軍被突如其來的攻擊打亂，正面攻擊部隊乘勝登上陡峭的山崖。經過三小時反覆衝殺，日軍的堡壘最終被全部攻破，黎明時分，勝利的旗幟插上了被日軍盤踞三年之久的娘子關。這是正太線最早攻克的重要戰略據點。攻佔娘子關後，第五團的勇士乘勝破壞了娘子關東面的鐵路橋，並收割了敵人的大批電線。與此同時，右縱隊第十九團對移糧、巨城、亂流和上、下盤石等日軍據點發起猛烈攻擊，殲滅了大量的敵人。
21日，日軍得知八路軍攻下娘子關，大為震驚，急忙抽調大批增援部隊直撲娘子關，企圖殲滅我攻佔娘子關部隊。聶榮臻早有所料，指示部隊破壞敵堡壘後，主動撤離娘子關。當日軍趕到時，已不見八路軍的蹤影，只好對著化為焦土廢墟的娘子關發獃。
在井陘煤礦，中央縱隊在年僅26歲的楊成武的指揮下，也取得了重大勝利。進攻部隊在礦區工人的幫助配合下，切斷礦區電源，靠夜幕掩護，向守敵展開猛烈進攻。經過一夜激戰，到21日黎明，將敵人全部殲滅，並佔領了東王舍新礦，對廠房、礦井進行了徹底破壞。14套開礦機器，10個鍋爐，3台鼓風機，2個儲水池，2個煙囪，1個絞車房，1個機電房，1個火車站，5座鐵橋，以及礦區表面建築全部炸毀。
正當晉察冀軍區部隊在聶榮臻指揮下，連克娘子關、井陘、賈元等車站的據點，破擊正太路東段和日軍的公路網時，負責破襲正太路西段的第一二九師，與日軍展開了更激烈的戰鬥。
正太路西段，有日軍獨立混成第四旅團司令部、煤礦基地陽泉，還有榆次方面獨立混成第九旅團的策應。針對這一敵情，熟諳兵法的劉伯承，經過縝密計算，認為敵指揮官第四旅團長片山驕橫暴戾，器小易盈，戰役發起之後，必會抽集大部兵力，進擊八路軍右側背。為此，第一二九師把主要打擊力量預伏在獅堖山一線，以防敵人側背攻擊，掩護破襲部隊的破擊行動。獅堖山虎踞陽泉大門，離城有八里之遙，控制著整個正太路的咽喉，地勢雖不十分險峻，但位置重要。從石家莊往西直到陽泉，地形較為平緩，偶有高山。一過陽泉，則山勢連綿，正太鐵路從這裡進入山區，獅堖山正是其進入山區的咽喉。
20日晚，戰鬥打響之後，第一二九師在全線投入40多個團的兵力，10倍於敵，造成了八路軍占絕對優勢的局面。敵人在八路軍的強大攻勢面前，只有招架之功，而無還手之力，戰鬥進行非常順利，主動權一直掌握在八路軍手中。經過一夜激戰，第一二九師連續攻克蘆家莊、和尚足、馬首、桑掌等車站、據點，消滅了敵人的有生力量，為破路和進一步擴大戰果掃清了障礙。到8月25日，正太路西段除壽陽等少數據點外，均為第一二九師所控制。劉伯承、鄧小平利用這一機會，下令部隊抓緊破路，提出「不留一根鐵軌，不留一根枕木，不留一個車站，不留一個碉堡，不留一座橋樑，不留一根電杆」，動員組織民眾，爭取鐵路員工，採取搬拆、爆破、火燒、水淹等方法，大力破壞鐵路、車站及其附屬設施。一條被日軍視為命脈的「鋼鐵封鎖線」就這樣癱瘓了。
正太路全線大破襲的消息傳到陽泉日軍第四混成旅團司令部，片山省太郎旅團長驚得目瞪口呆。他慌忙把陽泉600名日軍全部集中起來，並將500名僑民也武裝起來，強迫他們投入戰鬥。不出劉伯承所料，日軍傾其所有力量，動用了1500人，從21日起向獅堖山發起了猖狂進攻，企圖奪取這一關係戰役成敗的要點，阻撓八路軍戰役計畫的進行。
擔任守衛獅堖山任務的是陳錫聯的第七六九團。這個團的前身是紅四方面軍的第10師，作戰歷來有狠、硬、快、猛、活的作風。據當時任第一二九師參謀長的李達回憶，第七六九團發揚勇敢戰鬥的作風，憑險阻擊，頑強戰鬥，僅21日，敵人就傷亡百餘，遺屍40餘具。