吳佩孚雖然東山再起，可是他已沒有當年洛陽虎視的局面，他的討賊軍的賊字，這時是指的奉軍，他在查家墩司令部出兵討奉是分兩路，一路以靳雲鶚為主將，由隴海路東進。一路以寇英傑為主將，由平漢路北進，先削除奉張的兩翼，一翼是山東督辦張宗昌，一翼是直隸督辦李景林。這時，郭松齡尚未回師關外。
吳的兩路出兵，都要向河南假道，本來河南是吳的大本營，吳的舊部如陳久釗、王維蔚、王維城等，都還擁有兵權，吳派人去和河南督軍岳維峻商量，要把吳的舊部掃數調撥出來，由隴海路人魯，以靳雲鶚為豫東討賊軍總司令，一面以寇英傑率部由平漢路過豫入直，希望豫岳能予諒解和同意。
在岳維峻來說，吳的舊部分散在河南是岳的心腹之患，因此如能將其悉數調走，自然是求之不得，何況吳調軍的目的是為了討奉，此時國民軍也是以奉軍為假想敵，吳加入討奉，岳怎會反對。可是吳要寇英傑穿過河南心臟北上，用意莫測。馮玉祥密電岳，要他武裝保境，所以岳維峻遂以重兵防守鄂豫邊境，不許吳軍出武勝關一步，吳天天派員疏通豫岳，岳則日日支吾其辭；另一方面豫軍協助靳雲鶚軍由歸德入魯，佔領濟寧、曹州等地。
張宗昌在山東公然唱出擁吳論，李景林也亦步亦趨。張宗昌是山東人，與吳同鄉，他雖然曾遭吳的冷落，可是他內心卻佩服吳。二次直奉之役，他打著山東人不打山東人的口號，收編了大批吳軍殘部。當吳佩孚在漢口再起時，正是奉系和國民軍系發生暗潮的時候。張宗昌認為吳對馮玉祥是恨之入骨，如果拉攏吳佩孚和奉系重歸於好，在此時此刻是有可能的。因此他密派代表樊潛和、童好古到漢口去見吳的智囊張其鍠，進行「吳奉合作計畫」。吳不是個翻雲覆雨的人物，他剛宣布討奉，自然轉不過臉來聯奉。
然而政治這玩意就是千變萬化，吳在無意中獲得國民軍密約湘、黔兩省夾擊武漢的情報，這個情報不一定是真的，也許是奉方離間之計，可是吳大受刺激，忿然作色說：「馮煥章簡直不是人，我還怎能和他們做朋友？」因此聯奉討馮的建議便被吳所考慮。
就吳當時的處境，是在四面受敵的情勢下，如果能增加友人，減少敵人，自然是最好的辦法。張宗昌知道吳已動搖，就天天打電報給吳，尊呼「大帥」，並請前山東省長熊炳琦（直系）到漢口向吳表示：張宗昌是山東人，吳大帥也是山東人，山東人不打山東人，張宗昌願服從吳大帥，歡迎吳大帥回山東。
吳佩孚自二次奉直戰爭戰敗後，到處都遇到打死老虎的部下，現在張宗昌雄踞山東，卻願把山東奉獻，部下雖親不及敵人親，吳佩孚大為感動不已。
奉張在楊宇霆被孫傳芳所逐前，就暗中進行聯吳，曾派員到岳州向吳祝壽，曾向段祺瑞要求釋放曹錕，迨吳在查家墩自封聯帥後，奉張亦派蘇錫麟到漢口表示願和吳取得諒解，提出三點：（一）釋曹，（二）奉軍出關，（三）擁王士珍為總統。奉張不是對吳有何特別好感，不過面對吳、孫、馮等聯合圍攻奉軍的形勢，竭力想衝破這個難關。至於吳佩孚呢？他雖不喜歡奉張，可是更憎恨馮玉祥，和奉張是舊恨，和馮卻是新仇，舊恨還可擱直，新仇則非算不可。
吳本有一支奇兵，是派宋大明為吉林討賊第一軍總司令，劉希聖為副司令。他們在雙城子設了司令部，雙城子距綏芬河僅一小站，準備做為吳的內應。不料14年11月22日郭松齡倒戈，奉張情勢危急，吳在查家墩司令部得到這個消息，為之震動，這和吳當年情況極為相近，吳情不自禁撚鬚微笑，信口成吟：「而今始知循環理，斜倚欄干亂點頭。」他對張其鍠說：「我不乘人之危。」於是吳下令把宋大明、劉希聖的內應撤消，又把進攻山東的靳雲鶚兵團調回。
吳佩孚即然表示聯奉，而郭松齡又兵敗被殺，奉張的困難局勢轉瞬間竟能化險為夷，這真是張作霖始料所不及的。在14年秋冬之際，奉張最為艱苦，他三番兩次要下野，又要自殺，主要原因自然是郭松齡聯合馮玉祥向他倒戈，而馮玉祥又和孫傳芳以及吳佩孚組織了討奉的聯合陣線，如果這個聯合陣線真的很堅強，則奉張就會和曹錕、吳佩孚去年的命運一樣。可是討奉的聯合陣線並不堅強，只是因利害而暫時結合，加上郭松齡的回師關外未能把握時機以收迅雷不及掩耳之效，馮玉祥的國民軍又和李景林苦戰於天津，李景林聯合張宗昌組織了直魯聯軍，而張宗昌又搭上了吳佩孚的線，這一來反奉聯合陣營就四分五裂了。郭松齡失敗，奉張站穩了腳步，張宗昌、吳佩孚結合，聯合討奉變成了聯合討馮，馮玉祥忽然變得四面楚歌。
當馮玉祥的國民軍攻下天津時，北京和直隸完全落在馮系手中，段祺瑞的策士曾毓雋被扣，段的靈魂徐樹錚被殺，一時馮系氣焰煊天，可是沒有幾天，局勢突然大變，吳佩孚於12月31日通電結束討奉戰爭，張作霖、吳佩孚、張宗昌結成反馮的聯合陣線，馮軍在京畿及直豫兩省的地盤受到奉軍和直軍的大包圍，而孫傳芳亦響應吳佩孚結束對奉戰爭，馮玉祥在這種險惡的環境下，只好通電下野。
15年1月1日馮玉祥通電下野，電云：
「（銜略）吾國苦於戰禍，十四年於茲矣。殺人盈野，所殺者盡為同胞。爭端百出，所爭者莫非國土。老弱轉於溝壑，少壯鋌而走險。鞭弭周施，相習成風。金錢萬能，群趨若鶩。禮讓之大節盡失，國家之信念無存。軍閥禍國，人民切齒，痛定思痛，於斯極矣。玉祥自去歲倡導和平以來，本期從此息止內爭，專意建設。是以遠投邊塞，拓土移民，舉凡開渠植樹修路造林諸端，無不提倡。恤貧、養老、兵士屯墾諸策，無不推行。以過事實，諒所共見。不期跋扈者，不戢其心，攀附者，助長其勢，屯軍淮上，飲馬江表，勢欲席捲海內，雄霸中原，橫暴既張，義忿斯動，以是群起對抗，雲集景從。孫馨督首義於浙，長驅北指。蕭珩督聲援於鄂，志切澄清。皖贛鄰封成破竹之勢，徐淮袍澤挫強敵之鋒，未至兼旬，潰退千里。人心向背，於斯可知。猶復野心未死，強逆趨勢。驅師入關，轉而圖北。用兵弗戢，陷於自焚。郭軍長（松齡）痛於東省人民水熱之困，深懷故國荊棘之悲，爰整師旅，為民請命。返旆之初，芳岑（李景林）原約援助。迨至榆關戰捷，孤軍深入，乃芳岑二三其德，對茂辰（郭松齡）則頓違前約，對玉祥則通電誣衊。玉祥為促進和平計，不得已而用兵。現在芳岑潰逃，京津肅清，直省負責有人，中原不日底定。不圖郭軍長將近瀋陽，一朝顛覆。道路相傳，聞已殉死鄉國，未遂初衷，終成尸諫，果系事實，殊堪悼惜。雨亭（張作霖）經此痛創，漸有覺悔，善戰者當服上刑。舟中人盡成敵國，古訓昭垂，可資警惕！玉祥鑒於武人專斷，每恃戰勝餘威，把持政權。追溯往事，輒為痛心。此次僥倖克捷，勝亦不武。又何敢貪天之功，自貽伊戚。值茲千鈞一髮之機，徹底澄清之會，仍宜本和平之初衷，謀國家之改造。但願戰事從此結束，人民得資休養，玉祥個人應即日下野，以卸仔肩。如是，則造疑惑眾者，可以息止。而挑撥是非者，失所憑依。至於國家大計，執政碩德耆老，萬流仰鏡。子玉（吳佩孚）學深養粹，飽受挫折，當能不念前嫌，共謀國是，孫馨督（傳芳）、蕭珩督（耀南）、方耀督（本仁）、閻百督（錫山）、岳西督（維峻）、孫禹督（岳）共起義師，克奏奇勛，均為不世之功。從此延請國內賢豪，公開討論。建設大法，納諸軌道。凡關於國計民生，自宜各紓偉抱，共濟艱危。玉祥既無學識，又乏經驗。以之治國，無益蒼生。以之治軍，定累袍澤。與其遺誤將來，見譏國人，莫若早日引退，庶免咎戾。除另呈辭職外，當即時解任，還我初服。所有國民軍名義，早經通電取消。此後咸屬國軍，不再沿用國民軍名義。自電達以後，凡以政事而見教之賓客，一律敬謝。凡因職位而惠賜之文電，恕不作答，以示決心。玉祥解職而後，擬即出遊，潛心學問，苟有一得之愚，竊願貢之國人。謹布腹心，敬祈鑒察。馮玉祥。東。印。」
馮玉祥辭職下野後，以張之江代理國民軍總司令。
馮的辭職通電是希望和吳佩孚捐棄前嫌，因此對吳有學深養粹的評語，且希望吳在飽經世變後，能夠不算舊帳。至於馮對奉張則一片聲討的口氣，好像此仇不共戴天。這就是北洋時代的特徵，今日為友，明日為敵，昨日之敵，今日之友。然而吳對馮是咬牙切齒，真正不共戴天，當吳再起時，不過想借討奉為手段，其真正目的是討馮，所以馮想和吳妥協，吳是不會接受的，何況吳、奉合作之局已成，吳勢不能棄新歡而修舊「好」。
吳佩孚在馮玉祥下野後，突然又成為各方生拉活扯的重要人物。據說段祺瑞欲任吳為「七省治軍使」。直魯聯軍通電稱吳為「我帥」。吳仍主張恢複法統，孫傳芳亦願移樽候教。而張之江則有世電：「願追隨我帥之後，勉效馳騁。」豫岳（維峻）直孫（岳）也為之效應。
這是吳佩孚失敗後再起的黃金時代，可惜吳不能把握這個黃金時代，運用政治手腕，以恢複當年四