在經歷了第一次直奉戰爭慘痛失敗後，張作霖痛定思痛，他請書法家在自己的摺扇上題了四個字：「勿忘吳恥」，以示勾踐之志。之後，張作霖開始思考：自己的隊伍明明兵強馬壯，怎麼數天之內就讓這個「吳小鬼」稀里嘩啦的給收拾了呢？這到底怎麼回事？
思來想去，張作霖認為，這次失敗的主要原因在於軍隊人員過於老化，特別是一些高級將領，比如張景惠、吳俊升等人，雖然他們跟隨多年，忠心耿耿，但戰場無情，講究的是靈活多變、生龍活虎，這些老兄弟年青的時候並沒有接受過正規的軍事教育，他們打打小規模戰爭還行，但規模一大，見識和能力就有點跟不上形勢了。
相比之下，倒是那些軍校畢業的中青年將領表現突出，雖敗猶榮，譬如楊宇霆、姜登選、郭松齡，還有自己的兒子張學良，要不是這些人力挽頹勢，奉系這次肯定要吃更大的虧。看來，長江後浪推前浪，後浪死在沙灘上，不服老不行啊！
由此，張作霖決定對新老將領進行一次大換血，他把馮德麟、張景惠等一乾重量級的舊派軍官調到保安司令部充當高級顧問，實際是讓他們空出位置，使其有職無權，給予優厚的待遇。隨後，張作霖又本著「在精不在多」的原則對部隊士兵進行裁汰後，又招收了一批新兵加以訓練，總的兵員數量比之前要減少，但戰鬥力卻有所提高。
另外，紀律整頓也非常重要，對於那些在戰場上臨陣退縮的、貽誤戰機的、擄掠害民的，張作霖在查明之後，一律槍斃，譬如第六混成旅旅長鮑德山和兩個團長，都被當作靶子給打了。至於那些表現不力、能力不足的將領，張作霖也給予了撤職處分，比如第二十八師師長汲金純、第二混成旅旅長鄭殿升、第九混成旅旅長牛永福等人，計有1個師長、13個旅長、3個團長被撤職處分。
在經過一段時間的整編之後，奉軍擁有了3個師、27個混成旅和5個騎兵旅，旅以下按三三制，即是每旅三團、每團三營、每營三連，每連兵員一百五十人，總兵力達到17萬。為了提高奉軍的立體作戰能力，張作霖順應時代潮流建立了空軍，並委任張學良為東三省航空處總辦。奉軍的飛機主要是從外國購買、飛行員也大都是由外國航空學校畢業，這在當時的軍閥里是遠遠走在前頭的。在奉軍空軍的全盛時期，飛機數量一度達到近300架。
在各方面都發展的情況下，張作霖也注重拳頭力量的培養，這就是重點扶持的張學良和郭松齡的部隊。由於張、郭倆人的部隊在第一次直奉戰爭中表現出色，張作霖對這兩支生力軍寄以了厚望，希望他們能夠成為奉軍中的典範，由此，張學良和郭松齡的部隊在裝備、待遇等方面都比兄弟部隊強很多，完全稱得上是奉軍中的王牌軍。
張學良是張作霖的大兒子，出生於1901年，當時只有二十幾歲，但出於「老子英雄兒好漢」的傳統，張學良耳濡目染，很早就投身軍隊。在東北講武堂學習期間，張學良遇到了當時的教官郭松齡，兩人一見如故，並私下結拜為異姓兄弟。
1920年，張學良從東北講武堂畢業後，立即將郭松齡調為自己的衛隊旅參謀長兼團長，在次年的奉軍擴編中，張學良出任第三旅旅長，郭松齡則出任了奉軍第八旅旅長。由於張學良當時忙於其他事務，第三旅的日常訓練等工作也是由郭松齡負責，也就是郭松齡實際上指揮了兩個旅。後來的事實證明，這兩個旅在戰爭中發揮了重要的作用。
第一次直奉戰爭後，由於第三旅和第八旅損失慘重，張作霖便將之整編為第二、第六旅，仍舊由張學良和郭松齡充當旅長，並挑選精兵強將補充到這兩個旅，另外新式槍械也都是由這兩個旅先挑。在張作霖的重點培植下，張學良和郭松齡在奉軍中的地位迅速提升，其所帶的部隊也成為奉軍中最基幹的部隊。
張作霖在東北厲兵秣馬的時候，吳佩孚在中原可也沒有閑著。在部隊拉到洛陽後，吳佩孚每天都是6點前起床，8點到操場閱操，向來是風雨無阻。值得稱道的是，吳佩孚不僅重視軍事訓練，也注重對士卒的精神教育，由於他本人是個秀才，又一向喜好夸夸其談，因而經常召集士兵們進行講話，什麼「忠孝節義」，什麼「見利思義，見危授命」等等，往往是出口成章，隨後便來。
吳佩孚不僅喜歡訓話，還自己創作軍歌，比如最著名的《北望滿洲》（滿江紅曲調），便是他當年在日俄戰爭時期到東北執行任務時的感想，歌詞雄渾有力，感情豐富，最為士兵們所愛唱：
北望滿洲，渤海中風浪大作。想當年，吉江遼瀋，人民安樂。長白山前設藩籬，黑龍江畔列城郭，到而今倭寇任縱橫，風雲惡。
甲午役，土地削；甲辰役，主權墮。江山如故，夷族錯落。何日奉命提銳旅，一戰恢複舊山河。卻歸來永作蓬山游，念彌陀。
吳佩孚的歌詞雖然罵的是倭寇，但實際上也是指向與日本相勾結的張作霖奉系勢力的，通過這首軍歌，吳佩孚是要讓士兵們時刻牢記「一戰恢複舊山河」的勇氣和使命。
吳佩孚此人，在軍閥中的確是獨樹一幟，非同凡響，譬如一般軍閥的毛病，如擁兵害民、貪婪無度，吸大煙，好女色，賭博縱飲，荒淫無恥等等，吳佩孚從來不沾這些，可見其人品道德之高。在治軍方面，吳佩孚紀律嚴明，嫉惡如仇，也是近代軍人之罕見。
在公務之餘，吳佩孚最喜歡與幕府謀士們飲酒賦詩，或者馳馬試劍，頗有古代儒將的風範。就他的行為方式而言，其實與段祺瑞頗有幾分相似，又有遠崇湘軍大帥曾國藩的遺風。可惜的是，吳佩孚因為屢戰屢勝，便自以為用兵如神，難免生出一絲傲氣，並把武力看得太重。太史公有云：欲以力征經營天下，卒之一敗塗地而不可收拾。事實上，吳佩孚雖然反對段祺瑞，但他繼承的仍舊是老段的「武力統一」之衣缽。過於崇尚武力，誠吳佩孚之戒也。
在曹錕做上總統後，吳佩孚接任了直魯豫巡閱使兼兩湖巡閱使，陝西、兩湖、長江中下游均入直系勢力範圍。這光陰似箭，歲月如梭，轉眼便到了1924年陰曆三月初七，這一天是吳佩孚的五十大壽，部下、親信們就要好好的給吳大帥好好鬧一鬧了。
在壽誕的當天，前來洛陽給吳佩孚祝壽的賓客如雲，高朋滿座，各界名流達到上千人，其中有各省軍政長官或者代表、駐軍將領等，還有康有為、徐謙甚至前清攝政王載灃的代表。為了招待這些客人和隨從，之前準備的招待所已經住不下，只好將部隊的團部、營部騰出來安置。當天，全體士兵每人發一斤豬肉並另有賞錢，放假休息。
在繼光大樓（明朝抗倭名將戚繼光是吳佩孚的同鄉，因而吳佩孚將自己的辦公大樓以此命名）的壽堂，各地送來的禮物堆積如山，譬如載灃送的白玉如意，其成色極佳，潔白得如羊脂一般；還有不知是誰送來的仇十洲的名畫《汴洛圖》，不僅是稀世珍寶，而且畫的又是本地風光，也算是頗動了一番腦筋；還有趙恆惕送來的湘繡八扇屏、馬富祥送來的兩匹伊犁名馬等等。
最奇特的一套禮物，是馮玉祥送來的，是一壇玉泉山的清水。眾人見了之後十分詫異，覺得馮玉祥過於不近人情且近乎無禮，吳佩孚卻打著哈哈說：「究竟煥章是個有心人，他這是表示我們兩個人是君子之交淡如水呀！」
在所有的禮物中間，康有為的一幅壽聯是吳佩孚最最喜歡的：
牧野鷹揚，百歲功名才及半；
洛陽虎視，八方風雨會中州。
康有為是戊戌變法的大名士，他寫的這對壽聯真可謂是為當時呼風喚雨的吳佩孚錦上添花，據說吳佩孚見到這副壽聯後，連對康有為鞠躬三次，高興的說：「皇帝天子的賞賜我都不稀罕，唯獨康先生的贈我的這兩句名言，將是無價之寶，伴我永年！」
「百歲功名才及半，八方風雨會中州」，這兩句恐怕還不僅僅是康有為對吳佩孚的恭維，而確確實實是吳佩孚當年全盛時期的寫照。
在吳佩孚的聲名如日中天之時，就連歐美人士也對他極其看好，並認為他將帶領中國走出混戰，並最終走向統一。1924年9月8日，吳佩孚登上了美國《時代周刊》的封面，封面的下面的注釋是：General Wu。
一周後，也就是9月15日，張作霖自稱鎮威軍，派遣六路大軍近15萬兵力向關內進發，其部署如下：第一軍司令姜登選、副司令韓麟春，率第二師、第五師攻擊山海關、九門口一線；第二軍司令李景林、副司令張宗昌，率第一師、第二十三、二十四、二十六旅向熱河北路的朝陽、凌源、冷口一線進軍；第三軍司令張學良，副司令郭松齡，率第四師、第五、十九旅攻擊山海關、九門口一線；第四軍司令張作相，副司令丁超，轄5個旅在錦州做總預備隊；第五軍司令吳俊升，第六軍司令許蘭洲、副司令吳光新，這兩軍主要以騎兵為主，負責熱河北路。（註：直皖戰爭後，皖系的張宗昌、吳光新都投入了奉軍門下。）
曹錕在得知奉軍大舉出動後，急電吳佩孚入京商議對策。吳佩