在羅文坊小分隊迷惑敵人的時候，聶榮臻帶著真正的晉察冀軍區機關大部隊一夜插出40公里路，到達了阜平西北方的丁家莊，在那兒休息吃飯。在丁家莊，奉命來保衛邊區黨政軍首腦機關轉移的一分區一團也趕到了。
聶榮臻後來回憶說：「在那裡我們打電話，敵人也在打電話。兩下里只隔著一個山頭。」「那一次我7天7夜沒有合眼。」
身經百戰的聶榮臻，這是頭一回面臨如此險惡的鬥爭局面。此時，他考慮的不是自己的安危，而是如何保護邊區的黨政軍首腦機關，保護這許許多多忠於人民、堅決抗日的男女老少。他讓1團採取加強保護的措施。1團政治委員陳海涵、副團長宋玉琳、團參謀長晨光立即將團部偵察連、特務連和炮兵連合編為1個營，與原先的3個營分別在前後左右保護突圍隊伍。正在軍區養病的原1團團長陳正湘富有實戰經驗，協助唐延傑進行指揮。鑒於情況危急、任務特殊，他對1團下了死命令：「前衛不管碰到什麼情況，什麼敵人，堅決打，殺開一條血路！後衛不管碰到什麼情況，什麼敵人，堅決頂住，死也不能讓敵人靠近突圍隊伍！」
偵察員報告，日軍從淶源、倒馬關下來，正向聶榮臻帶領的突圍隊伍撲來，軍區司令部作戰參謀也向宋玉琳證實了這個情況。宋玉琳當即命令紅軍時期就在1軍團以作戰勇敢著稱而深受聶榮臻讚賞的1營營長李德才，帶人跑步堵住北面之敵。所幸的是1營沒有與敵人接觸，使大部隊的行動得以繼續隱蔽行進。宋玉琳自己則寸步不離聶榮臻，護衛聶榮臻乘夜色轉移。
9月2日清晨，突圍隊伍進入一條狹長隱蔽的山溝，到達一個叫常家渠的小山村。這個村有二三十戶人家，七八十口人。村民們以為是來了日軍，都逃到山裡去躲藏。直到中午時分，他們發現整個溝谷都住滿了八路軍和地方抗日幹部，這才返回各家的小草房裡，為子弟兵和黨政幹部們送水送飯。
隊伍在常家渠一帶的山溝里隱蔽了3天，連續幾天幾夜沒合眼的聶榮臻在一間草房裡好不容易才睡了一會兒覺。日軍雖然暫時未進常家渠山溝，但是飛機卻時常飛臨上空偵察。只要山頭上的防空哨兵一吹哨子，所有的人就都隱蔽不動，所以日軍仍然毫無察覺。山下的日軍竄來竄去，有時他們派出的小股搜索部隊就在山溝外頭，離1團前衛營派出的尖兵距離很近，隨時都可能發生戰鬥，那情形是相當驚險的。突圍隊伍里很多人又累又餓又病，連聶榮臻身邊的作戰科八九個人也病得只剩下3個人尚能帶病堅持值班。
經過與有關領導人慎重研究，聶榮臻決定：為使今後的行動輕便靈活，部隊進一步輕裝，跳出包圍圈以後，除分局、邊區政府與北嶽區黨委等主要領導人隨軍區指揮機關一起行動外，其餘人員向幾個不同的方向分散行動。軍區機關仍按原來的計畫，轉向四分區西部滹沱河兩岸地區機動。
9月5日下午，偵察員報告，溝外大路上的敵人空出了一個口子。黃昏時分，聶榮臻下令立即突圍。他穿著繳獲來的灰黃色日本風衣，拄著棗木棍子，在軍區警衛排的簇擁下，徒步走在一團前衛部隊後面。不料，他們只走了五六里路，便發現由阜平來的日軍正順著大道向西開進，為避免與日軍遭遇，聶榮臻馬上命令部隊返回常家渠，繼續隱蔽。
9月6日黃昏，聶榮臻率隊再度出發。眼看著就要突圍出去了，偵察員匆匆趕來，向聶榮臻報告說，由阜平向西運動的敵人不走了，都宿營在大道上的安子嶺、東西下關、大教場一線的村莊，把準備穿插過去的突圍路線堵住了。聶榮臻說：「隊伍停下，叫陳正湘上來。」
走在後面的陳正湘快步趕了上來，聶榮臻有些憂慮地徵求意見說：「你看怎麼辦？敵人又堵住了。」
陳正湘回答說：「沒關係，我們還回去，回去再說。」
回到常家渠，聶榮臻讓秘書科把那個乾電池收音機送來，打算了解一下這幾天的新聞。剛打開收音機，就聽到日偽軍的電台正在得意揚揚地廣播一則有關他及軍區機關的消息：
「聶總部」的電台，已被「英武皇空軍」的勇士炸毀了。今天已是第三天聽不到「聶總部」的電台出現了。聶榮臻已陣亡……
聽到這裡，聶榮臻輕蔑地一笑！
一輪明月掛在夜空，時不時地被滿天的雲彩遮住，使得山野溝谷里一片朦朧。乘著夜色，聶榮臻率領突圍隊伍第三次向常家渠西南邊的口子運動。在這之前，他得到報告：通往龍泉關方向有一個小小的口子，敵人白天來，晚上就撤了。他決定在敵人的合擊圈未完全合攏之前，冒險跳出去。
這是9月7日的晚上，一個勝利和失敗，生存與死亡都可能出現的月夜。聶榮臻從前兩次突圍失敗的教訓中，總結出了一條相當重要的經驗教訓：「在敵人合擊的時候，跳出合擊圈的時機要恰到好處，不能早，也不能遲。過早了，敵人會改變計畫向我們新的活動地域合擊，等於沒有擺脫敵人的合圍。過遲了，會被敵人包圍住，脫不了身。一般情況是，選擇敵人合擊圈已經形成而又未合攏的時機，才能恰好跳出去。這時，敵人改變部署已經來不及，我們卻能插向敵後，襲擾敵人的交通線，重新展開攻勢。」
俗話說，無三不成禮。想不到，聶榮臻的突圍竟應了這句話。第三次突圍成功了！在朦朧的月光中，上萬人從那個令人難忘的口子逐一閃過，跳出了日軍在阜平至五台一線苦心設置的大包圍圈，分散向各個方向轉移了。