在南口之戰結束後，軍閥間的混戰也就暫時告一段落，這裡卻要補述一下北京政局的變化。前文已經提到，在直魯聯軍與國民軍在天津大沽口激戰的時候，國民軍為了自身的安全考慮而將大沽口一帶海面封鎖，這引起了列強們的強烈抗議。其中就有一兩個不信邪的列強，他們調來軍艦硬闖天津港，結果與國民軍發生衝突，進而釀成了北京的政潮。
3月14日，兩艘日本驅逐艦開至大沽口海面挑釁，結果引發了與國民軍的互相炮擊，雙方各有傷亡。日艦見討不到便宜，便退出大沽口海面，並由日本外交當局向段祺瑞的執政府發出抗議，要求嚴懲中方肇事者並賠償日本損失。
日方的無理行為自然引起了中國人民的強烈抗議，而這時正是國民軍與奉直聯軍激戰的非常時刻，所謂牽一髮而動全局，這讓段執政感到非常難辦。讓老段更為難的是，當時北京的民眾運動再次興起，其規模已經不下五四運動。
要知道，這次列強仰仗的，仍舊是那個最著名的不平等條約《辛丑條約》。在前一年，上海曾發生過震驚中外的「五卅慘案」，如今血仍未冷，帝國主義再次欺壓到中國人的頭上，是可忍孰不可忍？
3月18日，在地下活動家們的策划下，2萬多大中學生和民眾在天安門廣場舉行反對八國通牒的國民示威大會，隨後，在「他們不敢把我們怎樣」的怒吼下，又有2000多人前往鐵獅子衚衕的段祺瑞執政府請願。由於前一天有請願代表同段祺瑞的衛隊發生過流血衝突，因而這次來的遊行隊伍一則人多勢眾，二來情緒也比較激動，因此衛隊也添加了人員，個個荷槍實彈，嚴陣以待。
無可否認，無組織甚至是有組織的民眾運動，都是極容易失控或者容易被壞人利用的，這一次也不例外。在面見執政段祺瑞、代總理賈德耀的要求被衛隊拒絕後，遊行隊伍中的激進分子情緒明顯失控，這些赤手空拳的年輕人把怒氣發泄到衛隊身上也就是情所當然。
可惜的是，誤事而又被犧牲掉的也是這些人，無論是強勢還是弱勢一方，中國人都明顯缺乏有風度對抗的基本意識，強者不肯妥協，弱者不肯寬容，因而暴力之後還有暴力，革命之後還有革命，專制結構循環不止，暴力統治生生不息。這一個又一個的血案，不過是給這種不寬容、不妥協的暴力文化添加一個新的註腳罷了。
很明顯，執政府的衛隊首領既缺乏應對這種危機的經驗和能力，當時也沒有高壓水龍頭、催淚瓦斯之類的鎮暴工具，結果便像清末保路運動的「成都血案」一樣，局勢的不可控終究釀成了驚天的血案。
至少目前可知的是，段祺瑞並不是導致這場慘案的直接下令者，而直接下令者也不是真的要對民眾開槍，但那些過於緊張的衛兵們卻把「朝天開槍」的命令當成了「平射」的殺戮，這在人情洶湧的場合下，是偶然，也是必然。不可否認的是，對著赤手空拳的民眾開槍，無論如何都是一種極其混賬的行為，而段祺瑞的執政府應對民眾運動的危機管理能力實在是太有提高的必要和空間了。
據事後的統計，「三一八慘案」中共死難47人，傷200多人，被魯迅先生紀念的劉和珍君，這位北京女子師範大學的小女生，便與那些無辜而又激進的同伴們死於這場慘案之中。當年的劉和珍，還沒有滿22歲……嗚呼哀哉，誰之過？
鮮為人知的是，段祺瑞在得知民眾前來執政府門口抗議時，曾對身邊的人發怒道：「這群土匪學生！」但在得知衛隊開槍打死大批學生之後，他立刻頓足長嘆：「一世清名，毀於一旦！」隨即，段祺瑞趕到現場並面對死者長跪不起。
在血案發生後，舉國震驚，各種憤激的輿論幾乎如排山倒海般向段祺瑞執政府湧來，段執政自知理屈，隨後下令對死難者進行撫恤，而代理國務總理賈德耀也因此引咎辭職。為了緩解自己的壓力，北京政府指責悲劇的產生是因為背後有人鼓唆。無可諱言的是，在民國的學運和工運等民眾運動中，暗中挑動的各派「壞人」固然有之，但大部分年輕人的愛國義憤卻是真真切切的。可嘆的是，世間有多少因愛生恨的人生悲劇，便有多少因愛國而誤國的悲情歷史，類似的運動和慘案，之前有之，後面更有許多。
慘案的發生與戰局的變化，段祺瑞執政府已經處於風雨飄搖之中。隨著奉直聯軍的步步逼近，段祺瑞的手下卻試圖拉攏原屬皖系吳光新舊部的唐之道師裡應外合，與奉軍一起將城中的國民軍趕出去。段派人馬的異動立刻引起了國民軍京畿警備司令鹿鍾麟的警覺，他們在4月9日率先包圍了段府，以示警告，而段祺瑞則在受到威脅後暫往東交民巷桂樂第大樓躲避。兩日後，鹿鍾麟將前總統曹錕釋放，並試圖以此拉攏吳佩孚共同對付奉系，但此舉被吳佩孚斷然拒絕。13日，國民軍退出北京，撤往南口，而奉軍、直魯聯軍、吳軍相繼進入京城。段祺瑞也隨後返回執政府並宣布復職。
但是，吳佩孚此刻已經不允許段祺瑞繼續做執政，而奉系也對老段沒了興趣。4月20日，段祺瑞在命胡惟德代理內閣總理並攝行執政職權後宣布下野，這也是他最後一次下野了。當天下午，在直魯聯軍的「禮送」下，段祺瑞和安福系的一彪人馬如梁鴻志、曾毓雋、許世英及其親信部屬吳光新、曲同豐等人離開北京，永遠的告別了民國的政治舞台。
在車過廊坊的時候，段祺瑞命列車停留十分鐘。在四個多月前，他最寵信的徐樹錚便在此遇害。原來，在段祺瑞做成臨時執政後，本在外國遊歷的徐樹錚也興沖沖的於1925年底回國，並隨後來到北京到處活動，企圖再次出山。
但是，馮玉祥並沒有忘記徐樹錚在七年前擅殺自己的恩師陸建章一事，當時國民軍控制了京津一帶，對小徐是非常不利的。段祺瑞似乎也感覺到點什麼，他一見到徐樹錚便說：「這時候你回來幹什麼？」說完，老段便攆他快走。
但小徐並沒有把這當回事，他在北京待了近半個月後才準備經天津南下上海，但就在去天津的路上，徐樹錚在廊坊車站被人刺殺了。據國民軍的說法，是陸建章的兒子陸承武為父報仇，但真實的情況恐怕只有國民軍自己最清楚。
在列車重新啟動之後，段祺瑞仍舊打開車窗西望，久久不肯離去。此時的他，顯得是如此的蒼老，這隻北洋之虎，已經再沒有昔日的威風了。
在這次下野後，段祺瑞真的遠離了紛繁多變的政治漩渦，只在家中吃齋念佛，下下棋，寫寫字，不再過問世事。1931年「九一八」事變後，日本人又把侵略的魔爪伸向了華北，並試圖拉攏段祺瑞出來做代理人。為防止段祺瑞為日本人所用，蔣介石在1933年1月21日派人將段祺瑞從天津接到南京，在乘船過江的時候，蔣介石率一批高級將領親自前來迎接並執弟子禮（蔣介石留學日本士官學校前統一由北洋速成武備學堂送出，段為學堂督辦）。隨後，段祺瑞便定居在上海。
1936年11月2日，段祺瑞因胃潰瘍引發大出血而去世，享年七十二歲。段祺瑞的病，可能與其長年吃素有關，但醫生和親友建議他進點葷食以提高抵抗力時，段祺瑞堅決拒絕並表示：「人可死，葷不可開！」……足見老段性格之倔強。
臨終前，段祺瑞寫下親筆遺囑，諄諄告誡後人：「國雖危弱，必有復興之望。復興之道亦至簡單，勿因我見而輕起政爭，勿信過激之說而自搖邦本。講外交者勿棄固有之禮教，求學者勿騖時尚之紛華。所謂自立更生者在此，轉弱為強者亦在此矣。」
由於段祺瑞生前信佛，其葬禮也是照他的遺囑以居士禮簡葬。在各界名流的弔唁中，有幾副輓聯特別顯眼，一副是馮玉祥的：「白髮鄉人空餘涕淚，黃花晚節尚想功勛」；另一幅是吳佩孚的長聯：
天下無公，正未知幾人稱帝，幾人稱王，奠國著奇功，大好河山歸再造；
時局至此，皆誤在今日不和，明日不戰，憂民成痼疾，中流砥柱失元勛。
段祺瑞死後，由於其長子段宏業堅持要將其靈柩送往北京安葬，但因為日本侵華導致的時局變動，以至於十多年都無法找到合適的下葬地，最後只能草草葬在段祺瑞三弟之前買好的墳地，位置就在大道旁邊。對此，段祺瑞的一些生前故舊忍不住嘆息：「想不到老頭子轟轟烈烈的一輩子，死後會沒有一塊葬身的地方！」
直到1963年，在段祺瑞生前的好友章士釗、李思浩、曾毓雋等人的努力下，才最終將段祺瑞的遺骨起出，並重新安葬在北京西郊香山附近的萬安公墓中。
段祺瑞的故事到此為止，後面說說被釋放的前總統曹錕。曹錕本以為段祺瑞已經下野而自己重獲自由，應該出來繼續當他的總統了，但各方對此反應冷淡，就連吳佩孚也認為時局未定、時機不到，給曹四爺澆了一瓢涼水，由此也只好死了這個念頭。
在北伐戰爭後，曹錕見吳佩孚和當年的那批人馬已經是昨日黃花，也就放棄了復出的幻想，回到天津隱居去了。在日本侵佔東北後，日本也曾多次請曹錕出山擔任職務，但始終被曹錕