「三一八慘案」後，國民軍面對直奉聯軍的攻勢已無抵禦之力。馮玉祥感到除與舊日的上司兼好友吳佩孚重歸於好外，別無出路，於是決定趁著執政府因「暴力槍殺良民」而落入窘境，在京城上演一出捉段放曹（曹錕）的武戲，以便討好吳佩孚。
1926年4月9日夜，鹿鍾麟率警備司令部的大隊人馬包圍了吉兆衚衕。幸好已經自行脫險的曾毓雋事先得到消息，派人通知了段祺瑞。由於大街上已經戒嚴、盤查，段祺瑞便由衛隊長護送，暫時到同住於一條衚衕的老同學家裡躲避。
鹿鍾麟本來想指揮人馬衝進段公館，活捉段祺瑞，後來發現衚衕口有機槍連布防，只得暫時停止前進，雙方對峙達三小時之久。對峙期間，北京城裡滿街都是士兵，氣氛十分緊張。
為了防止國民軍突破火力布防，強行闖入段公館，或者在附近進行搜查，曾毓雋靈機一動，特地通過報社連夜發出號外，稱段祺瑞已進入東交民巷。鹿鍾麟看到號外後，信以為真，只得撤兵回府。
鹿鍾麟一返回司令部，即以北京警備司令的名義釋放了一直被他們幽禁的曹錕。天亮後，他與其他國民軍將領一道發出聯名通電，在逐條列舉段祺瑞罪狀的同時，宣布「保護總統（指曹錕）恢複自由」。聯名電還大拍吳佩孚的馬屁，說吳為「命世之才，抱救國之志」，國民軍「此後動定進止，唯吳玉帥（吳佩孚）馬首是瞻」。
怕吳佩孚仍弄不清他們的真意，國民軍方面又讓重新獲得自由的曹錕給吳佩孚發電報，望其與國民軍合作對付奉系。未料吳佩孚不但一口拒絕，而且要求國民軍全部繳械接受改編，他在給鹿鍾麟的電報中甚至稱「恨不能食汝之肉，寢汝之皮」。至此，馮玉祥才算完全絕望。4月15日，國民軍退出北京城，扼守南口。
段祺瑞雖得以復職，但其政治能量已喪失殆盡。張學良代表奉系，明確表示對維持段祺瑞政權沒有信心，只能保護段祺瑞安全離開北京。4月20日上午，段祺瑞在外交總長鬍惟德不知情的情況下，特任其兼署國務總理，攝行臨時執政職權。當天下午，他乘坐張學良調派的一列專車，離開北京，前往天津。
這是段祺瑞第三次到天津過寓公生活。他在天津沒有房產，以前都是住段芝貴或吳光新的宅邸，這次來津，開始是在日租界的壽街租了一間房子，但有一次他無意中將自己的姓「段」和壽街的「壽」聯繫了起來，覺得不太吉利。吳光新聽說後，便勸他搬到自己位於日租界宮島街的寓所。
吳光新的這座寓所建於1916年，外形奇特宏大，施工質量很高，可與日租界清遜帝溥儀所居住的張園相媲美。缺點是此處離日本天津駐屯軍司令部比較近，經常有日本軍政官員來訪，段祺瑞不勝其煩，只好經常託病不見。
得知段祺瑞想找一個清凈的住所，老部下魏宗瀚就把他接到了日租界須磨街自己的寓所。
下野後的段祺瑞自稱「正道居士」，每天吃齋禮佛，十分虔誠，但他的須磨街住宅卻並不顯得門庭冷落——他的那些部下幕僚，如曾毓雋、章士釗等人全都不離不棄，一路從北京跟隨到天津，而其他各路的說客和謀士也經常前來登門「勸道」。
在這種情況下，就算老段真的像他表面宣布的那樣只談佛經不問政治，「政治」也會時不時地來光顧和過問他。問題是，此時的國內政局已經發生重大變化，他再也不可能成為政壇上的中心人物了。
甚至連段祺瑞本人都不會想到，他實際擔負著最後一次挽救和整合北洋系的使命。在段祺瑞黯然下野和段記執政府「杯碎」之後，北洋各派繼續相互削弱，使得整個北洋系以加速度奔向自己的末路。
段祺瑞對於北洋系乃至於整個近代中國的重要意義，吳佩孚是在很久以後才領悟到的。那時候，他也成了被政壇拋棄的落魄寓公，而段祺瑞剛剛去世。
吳佩孚特請人代表他到段宅弔唁，並親撰輓聯。他告訴別人：「我對合肥（指段祺瑞）之喪，一度任秘書，一度任帖寫（指輓聯等均系吳本人自作自寫），此為有生以來第一次，唯對段夫子一人而已。」
吳佩孚所寫輓聯的聯文很長，道盡了他歷經波折滄桑之後的感悟：「天下無公，未知有幾人稱帝，幾人稱王，奠國著奇功，大好河山歸再造；時局至此，皆誤在今日不知，明日不戰，憂民成痼疾，中流砥柱失元勛」。
吳佩孚送的祭幛為「木壞山頹」。大匾上款為「芝泉夫子」，下款為「受業吳佩孚敬獻」，四個大字乃「還我河山」。
那一刻，這位曾經書生意氣並無比叛逆的秀才將軍，成了最懂段祺瑞的人。