作為首個登上美國《時代周刊》封面的中國人，吳佩孚當年被認為是最有希望統一中國的軍事將領，但正當他意氣風發，準備一舉打垮奉系張作霖、一統江湖的時候，其內部卻在毫無徵兆的情況下遭到沉重一擊，這就是在第二次直奉戰爭中馮玉祥的突然倒戈。有人或許要問，馮玉祥又是何許人也？
馮玉祥，字煥章，祖籍安徽巢縣，其父早年投入劉銘傳的銘軍，曾參加過鎮壓太平軍、捻軍、陝甘回亂等戰事，後來跟著左宗棠所部踏過幾千里的漠漠黃沙前往新疆平定阿古柏之亂，在這八天的行程中，每個士兵都背著生紅薯作為口糧，也許是這次吃得實在太多，以至於馮父後來看到街上賣烤紅薯的，都會忍不住噁心犯酸水。光緒年後天下太平，銘軍解散，馮父也就解甲歸田，但多年的從戎生涯已使他無心從事其他行業，最後還是投入李鴻章的淮軍並隨軍分駐直隸等地。
光緒年間的軍隊供給是極微薄的，馮玉祥的父親在淮軍中（後改為練軍）僅僅是個低級軍官，家裡的孩子又多，因而馮玉祥小時候的生活非常艱苦。其在回憶錄中曾這樣描述那段不堪回首的日子：自己家中房子極小，有時候客人來了，連坐的地方都沒有；四周的牆壁，年代久遠，風吹雨淋後都已經漸漸鬆弛崩潰；吃飯的時候，一掀開鍋蓋，頂上的灰塵就同秋天的落葉一樣掉落……
小時候，馮玉祥常跟著哥哥去拔草拾柴，幫襯家計。夏天，每到高粱擗葉的時候，馮玉祥都要在高粱地里掰一整天，有時候累得連飯都吃不下，這種勞動者的苦楚，只有親身勞動過的人才知道；馮玉祥小時候從來沒有穿過新鞋，穿的都是重新修補過的「二鞋」；由於生活艱辛，馮玉祥經常要去當鋪典當家中物品（因為大人不好意思去），以勉強維持家中生計。正因為這樣的生活經歷，馮玉祥對清廷及舊社會極為痛恨。
馮玉祥的本名叫馮基善，「玉祥」這個名字得來也頗有意思。當時保定的練軍大都是父子兵（父親退役、兒子遞補進營），雖說軍中的薪水微薄，但畢竟有份固定的收入，外面不相干的人是很難補進去吃這碗軍飯的。因此，一年半載地出個缺，爭的人很多。馮玉祥的父親當時境遇困難，這是他的同袍都深知的，有一次營中正好出了個缺，當時一個姓苗的管帶便說：「這回補馮大老爺的兒子吧。」旁邊的人問：「那他叫什麼名字？」苗管帶一下想不起來，那人便說：「讓我問問去。」苗管帶怕他去一問而耽誤了時間，於是忙擺手道「我知道，用不著問」，隨後便在紙上寫了「馮玉祥」三字。由此，馮基善便成了「馮玉祥」。
馮玉祥補上學兵的時候不過11歲，但他從小便身材高大魁梧，天生就是軍人的料。成年後，馮玉祥的身高超過一米九，膀大腰圓，人稱「馮大個兒」。但是，馮家沒有什麼顯赫的背景，馮玉祥小時候接受的教育也有限，因而他不像其他的軍官一樣讀過武備學堂之類軍校，而完全是靠著自己的努力，在軍隊里摸爬滾打了多年才逐步升遷的。正因為如此，他的日常作風非常簡樸，也從不沾染當時的一些惡習，如吸鴉片、賭博、狎妓等，這和其他的高級將領完全不同。
由於當時的練軍已經疲弱不堪，馮玉祥後來便改投了袁世凱的武衛右軍。當時的武衛右軍，無論是在訓練還是待遇等方面都是最好的，由於馮玉祥身材高大，在慈禧太后從西安迴鑾的時候，馮玉祥還作為儀仗兵在保定親眼見過慈禧太后（心裡那個恨啊）。在袁世凱的軍隊中，馮玉祥逐漸由副目、正目、哨長、隊官等一路升遷上去，並在清末的時候做上第20鎮的營管帶（標統為范國璋，鎮統制前為陳宦，後為張紹曾）。
1911年武昌起義爆發後，潛伏在第二十鎮（駐紮灤州）的革命黨也開始活動，當時他們也暗中搞了一個名為「武學研究會」的准革命小團體，其中的骨幹便有營管帶王金銘、施從雲、馮玉祥及張樹聲、張之江、鹿鍾麟、李鳴鐘、龔柏齡、商震、石敬亭、劉驥等同袍或部屬。事實上，就連鎮統制張紹曾也是傾向革命的，由此也引發了後來的「灤州兵諫」，並迫使清廷公布了「十九信條」。
可惜的是，由於張紹曾舉棋不定，自請辭職，二十鎮後來只好由王金銘、施從雲等低級軍官組織發難，而此時清廷已有準備並派出通州鎮守使王懷慶前來鎮壓，灤州起義最終失敗，王金銘、施從雲等十四名革命黨被殺，而馮玉祥等參與者被解除軍職並押送回籍。
無巧不成書的是，軍法處的人押送馮玉祥路過北京的時候，正好遇上了曾經的老上級陸建章。原來，袁世凱復出後，他對之前編練的北洋軍已無絕對掌控之能力，因而急於要組建一支忠於自己的嫡系軍，這就是之後的五路備補軍。當時陸建章被袁世凱從廣東潮州鎮守使調回來擔任左路備補軍統領，他對當年馮玉祥帶兵的印象不錯，而他這裡又急缺優秀的中下級軍官，於是當即決定讓馮玉祥留下來幫忙。
陸建章在小站練兵的時候便一直跟隨袁世凱，可以說是北洋系的老前輩，當時押送馮玉祥的軍官也同樣是他之前的部屬。陸建章直截了當地說：「你是我的部下，馮玉祥也是我的部下，你們的長官，從協統到標統，也沒有一個不是我的舊部。你把人交給我，這事就算這麼結了。」
由此，馮玉祥便留在陸建章的左路備補軍中擔任營長，隨後又升為團長。在民國初年「剿白狼」中，馮玉祥被提升為旅長，並隨陸建章入陝。袁世凱稱帝後，馮玉祥的第十六混成旅奉命開進四川與護中國軍隊作戰，但未及半年，袁世凱便因病去世。
而在這時，忠於袁世凱的陝西督軍陸建章也被皖系軍閥陳樹藩驅逐，馮玉祥失去了靠山，第十六混成旅也險些被解散。所幸的是，後來張勳鬧復辟，第十六混成旅正好派上用場，這才被複任總理的段祺瑞給保留了下來。但是，馮玉祥終究不是段祺瑞的皖系，也不是馮國璋和曹錕、吳佩孚的直系，因而經常受排擠，有時候連軍餉都發不出。好在馮玉祥本人貧困出身，一向艱苦樸素，與士卒共甘苦，因此他帶的部隊很團結，凝聚力很強，其戰鬥力不容小視。
吳佩孚掌握直系大權後，馮玉祥由河南督軍被排擠到有職無權的陸軍巡閱使位置上，兩人矛盾由此激發。早在第二次直奉大戰前，馮玉祥便通過部下與奉系接洽，密謀共同反吳。而張作霖在得知馮玉祥在京中極為苦悶困窘之後，他當即決定聯合馮玉祥並接濟了馮部一些軍械和錢餉，共組反吳聯盟。
馮玉祥雖然看上去高大魁梧，像個軍界老粗，但實際上膽大心細。第二次直奉大戰打響後，馮玉祥以訓練新兵為借口，在城中留下一營兵力作為內應，其他部隊則陸續開出城外，但每日行程不過二三十里，行動十分緩慢。馮玉祥的司令部到達古北口後，隨即借口籌措給養，並令鹿鍾麟部每日練習行軍，讓沿途居民見怪不怪，免得到時班師回京引起外間的注意。
鹿鍾麟學兵出身，在四川的時候投入第十六混成旅任營長，很受馮玉祥的器重。他在進入北京前，每次都派兩連人進入城內裝作拿東西的樣子，但每次都是進得多，出得少，這樣就在城內陸續聚集了近一個團的兵力，而早已結成反吳同盟的孫岳所部守城部隊對此也是睜一眼閉一眼。
據當時在孫岳手下任參謀長的徐永昌回憶說：某次馮玉祥與他談話間曾憤然說，「王懋軒（懷慶）是蝙蝠兩棲之物，怎能做步軍統領？步軍統領應當是孫二哥這樣的人做才對。」不錯，王懷慶與馮玉祥是有過冤讎的，當年灤州兵變時，馮玉祥的幾個革命同道便是被他所害。王懷慶這個人很迷信，他的部隊從北京開出去的時候，必定要從德勝門出，即便是繞道，也是如此。不過，徐永昌倒認為王懷慶這個人對自己的士卒還可以，部隊做冬衣的時候，他都要親自檢查，惟恐絮棉不夠厚，針線不夠密，可算是一恂恂長者。
在政變的當晚，孫岳令部下耿仁貴營長打開城門，拂曉以前，即將與馮相約所做的內鑲白月標誌之黑旗，轉送給城內部隊，開城時即互相以此為識。由此，鹿鍾麟部大舉進城，由於前面內應的士兵已經在各街道做指引，因而政變做得神不知鬼不覺，竟然未放一槍一彈。
政變後，馮玉祥與孫岳的代表到總統府請曹錕退位，曹錕不肯答應，大發脾氣。馮玉祥的代表碰了一鼻子灰後，曹錕的幕僚趙玉珂送他出門，問：「禹行是在幹什麼？我們覺得他的隊伍好，很信賴他，現在他到底是在幹什麼？」馮玉祥的代表敷衍說：「沒有什麼，只是覺得內戰不已，民不聊生，想請吳使勿再打仗，請轉告總統放心好了。」趙聞言，很倔強地說，「總統已是六十多歲的老頭子，有什麼不放心，他是不放心你們。」說罷，悻悻而回。
要說起來，曹錕其實待孫岳不薄。孫岳，字禹行，直隸高陽人，生於1878年，據說是明末名將孫承宗之後，他早年行俠仗義，曾因打死了當地的一個惡霸而隱姓埋名，削髮為僧，後來又不甘寂寞而考入了保定武備學堂炮兵科，畢業後被分派到曹錕所部的北洋第三鎮，在辛亥革命的時候孫岳任鎮參謀官。孫岳很早就加入了