蔣介石於一九二九年三月二十六日下令討伐國民黨第四集團軍之後，閻錫山於二十九日通電討桂以表態，張學良復於四月二日通電警告桂系以表態，馮玉祥則「不便偏袒」，首鼠兩端，觀望不前，與蔣亦有諒解。足見蔣之「遠交近攻」戰略之成功，使他能專心搗桂而無後顧之憂。桂繫於五月間瓦解後，四分天下蔣已得其二，對并吞另一半的決心亦分外堅定。
在短短的兩個多月內，龐大的第四集團軍被蔣介石一口吃掉，當然震動國民黨內外。蔣亦當然躊躇滿志，氣焰日盛，姿態愈高，與馮玉祥的關係也就日趨惡化。
論者常說，蔣馮交惡由於一九二九年二月編遣會議，不歡而散，不告而別，不過，此次會議原無定案，最多馮因此會而洞察蔣氏心機，得知與自己金蘭義結的小兄弟，胸懷叵測，如謂「蔣專弄權術，不尚誠意，既聯甲以倒乙，復拉丙以圖甲，似此辦法，絕非國家長治久安之象」(《馮玉祥日記》，第二冊，頁五七一)，但尚不至於因此干戈相見，或又說，馮因於伐桂後，未得武漢地盤而懷恨。的確，蔣於伐桂時曾派邵力子、賀耀祖訪馮，許以兩湖地盤與行政院長，換取馮之支持。(參閱薛謀成《論蔣桂戰爭》，《廈門大學學報》第七十期，頁十八；《馮玉祥日記》第二冊，頁六O二、六O三)馮果派韓復榘統兵十三萬出武勝關南下，至廣水待命。蔣之食言而肥，必然令馮不快。然而更為嚴重的是，蔣於勝桂之後，居然背信棄義，拒讓第二集團軍從日帝手中接收山東。北伐完成之前，馮軍曾力戰于山東，視為日後養兵之地，因其所轄甘肅、陝西、河南三省，連年戰亂災荒，早已不堪負荷。蔣以南京政府名義，發表馮部孫良誠為山東主席，亦有意以魯省為馮之地盤。然因日本帝國出兵山東，干涉中國內戰，糾紛未了，猶待南京政府交涉。一九二九年三月二十八日，中日終於獲致協議，日軍同意於五月間全部撤出山東，並與孫良誠聯繫，答允於四月十六日交還濟南，馮亦準備自豫入魯，接收膠濟鐵路。恰於此時，蔣介石因勝桂而驕，雅不欲把山東這塊肥肉，奉送給馮玉祥，斷然於四月十五日命令孫良誠不準進據濟南，並於翌日經由外交部通知日方，將另派軍隊、另訂日期接收。中國軍民一再要求日本撤軍，而今忽然要求延期，大令日帝不解，蓋不知蔣介石私心在作祟也。蔣雖終於四月二十二日讓孫良誠接收濟南，但明言另外派兵「助」孫防守青島以及膠濟鐵路，並命陳調元、方振武率師入魯，接收膠東，另鼓動當地殘餘軍閥反孫，以及賄賂孫部的一個師長為內線。
不僅此也，馮對蔣的整體表現感到極度不滿，如謂「現今軍閥餘孽多居要職；革命巨子，反遭摒棄，如之何不令人憤懣耶」(《馮玉樣日記》第二冊，頁六一一)；「南京當局淫佚奢侈已極」。(同書，頁六一二)對蔣之猜忌尤表憤慨，「吾自五原誓師以後，日與頑敵搏戰於大河南北，為革命勢力屏障。其間調停寧漢，舌敝唇焦，力顧大局，請蔣復職，一、二、三、四各集團，幸得團結一致，完成北伐。今蔣以一般反革命者為忠實黨員，而目余為反革命，顛倒黑白，莫此為甚!」(同書，頁六三三)對待各軍待遇之不公，更是導火線。蔣狡辯稱：「東南隊伍，無餉則嘩變，而西北軍則素能吃苦，暫不發餉，亦無甚影響也。」(同書第二冊，頁六三四)蔣桂戰爭時，馮出兵湖北，被蔣指為爭地盤，後按兵不動又被指為「貽誤軍機」(同上)，使馮大感動輒得咎。蔣扣押了李濟深，還要求馮回南京復任軍政部長，馮當然不會中計入彀。
馮不肯就範，知蔣必不肯罷休，乃做戰略性的撤退，向豫西移動，以縮短戰線，並及時炸毀隴海、京漢路之橋樑和隧道，以阻蔣運兵。馮系在京人員，如代理軍政部長鹿鍾麟、外交部董副部長亦相繼脫離。馮自稱「護黨救國軍西北路總司令」，以潼關為防線。蔣介石至此亦撕破臉皮，於五月二十三日以國民黨中央政治會議主席名義，經中常會通過，革除馮玉祥一切職務，永遠開除黨籍。不久之前，猶是金蘭義結「生死不渝、如胞兄」的煥章大哥，而今在蔣介石控制下的宣傳機器，把他形容為「陰險成性」、「反覆無常」、「勾結蘇俄」、「背叛黨國」之徒!馮亦不甘示弱，雙方展開電報罵戰。
但是三軍未發，蔣已制馮，用的還是分化與收買的手段。一九二九年三月，蔣利用李明瑞倒戈輕取武漢後，即電邀奉馮命率師南下的韓復榘相見，蔣宋夫婦盛情款待，把韓土蛋搞得七葷八素，再由蔣伯誠送致巨款，並以河南省主席一職為餌。同時又派人與石友三搭上線，答允每月給以「協餉」。韓、石遂被收買。李明瑞尚是桂系中的三流角色，而韓、石卻是馮的第一流戰將。蔣曾於一九二八年復出後北上晤馮，得見馮部精彩的表演，訓練精良、士氣高昂，印象深刻，知不可力敵。韓、石之可以被收買，蔣顯然做過情報分析，洞悉馮氏麾下二大將之弱點。黃埔校友容齋於《蔣介石翻雲覆雨的本領》一文中，有所透露：
韓、石都是跟著馮一步步從士兵升到軍師長地位的，那時韓已當上河南省政府主席，石也當了師長兼總指揮。馮平時對待部下，是很嚴的，中下級軍官犯了紀律都要打軍棍。像韓、石這樣的「方面大員」，見了馮都不敢坐著講話。韓當上河南省主席後，曾在洛陽娶了一個女伶為妾，被馮聽到了，把他罵得狗血噴頭。石友三當上軍師長後，成天瞞著馮打牌吃花酒。總之，那時馮的高級將領中，很有一部分人像被管束慣了的頑皮孩子一樣，一旦羽毛豐滿了，從西北的苦環境走進中原和平津等大中城市，接觸到花花世界，看到蔣的軍政人員的腐化生活後，都不免垂涎三尺，有的就偷偷地「學習」起來，像石友三那樣的人，一經接觸這種腐化生活，就不知伊於胡底，小老婆搞了幾個，大煙也抽上了。他們見到馮這個嚴父式的老上司，真如芒刺在背，時刻想從他的手掌里跳出去。
這種說法，可從馮玉樣本人得到印證，他說：「韓復榘叛變，蓄心已久，蓋吾對韓，因相從二十餘年之久，遇事向不客氣，且禁止一切煙酒嫖賭嗜好，而蔣在漢口見韓時，則張口向方，閉口向方，且用種種手段以牢籠之，宜其視蔣待彼為親，而余為疏也。」馮對韓、石之叛既感到十分傷心，甚至想下野出洋，又感到異常懊恨，如謂：「韓、石之事，餘事前竟不聞知，故未得設法勸阻防備，昏聵糊塗，一至於此!」(《馮玉祥日記》第二冊，頁六三九至六四一)
韓、石既被收買，蔣、馮一旦決裂，韓即率馮精銳之師十萬，於五月二十二日由陝縣東開，通電擁蔣，就任蔣所授之西北軍總指揮，石亦同是率部三萬由南下開往豫省東南，就任蔣委任的第十三軍軍長。蔣立致現款五百萬犒賞，並於五月二十五日下令討馮。馮玉祥正在華陰籌劃與蔣一決雌雄，信心十足，然而突聞此變，知已全盤皆輸，只好於五月二十七日宣布「入山讀書」，形同下野，至少使蔣無進攻的借口，以保住實力，再謀後圖。美國學者奚瑞丹(James·Sheridan)為了寫英文本《馮玉祥傳》，曾訪不少馮氏舊部，他們異口同聲表示，若非韓、石倒戈，「天下一定成了我們的。」(Sheridan，ese Warlord：The Career of Feng Yu-hsiang，P.261)若以軍隊的素質與訓練而言，如果打硬仗，蔣軍的確不是馮軍的敵手。
馮玉祥能施出「入山讀書」一招，知其並非一介莽夫，至少深明緩兵之計。馮佯裝讀書，暗通閻錫山，而閻亦正受蔣之壓迫，乃企劃聯合陣線倒蔣，並於六月二十一日自華陰啟程赴太原，四天之後到達。閻待馮極為禮遇，而別有懷抱。以閻之持重老練，固不會輕易聯馮抗蔣，然亦雅不欲奉蔣命而驅馮，於是依違兩端，舉足輕重，反蔣與擁蔣人士遂絡繹于山西道上，而閻老西兩面接待，左右逢源，並借媒體透露即將與馮聯袂出洋考察，狀至悠閑。老蔣不知老閻葫蘆里賣的什麼膏藥，至少沒有站到自己一邊來，乃採取更加積極行動，除了派張群、吳鐵城等攜巨款赴晉活動外，更親自前往北平，邀閻面談。閻乃於六月三十隨同蔣所派遣的孔祥熙、吳稚暉等人來到北平。蔣竟願以「全國陸海空軍副總司令」相授，以示籠絡。但閻亦不欲一面倒，一方面應付蔣，另一方面仍想保住馮，互為制衡的籌碼。此種均勢，自於閻最為有利。馮亦因而被閻留置於建安，形同軟禁。
蔣介石以為形勢大好，遂於八月間在南京召開第二次全國編遣會議，一切議案由蔣獨裁，毋須討論，舉手通過，故又稱之為「編遣實施會議」。蔣固然是得遂夙願，然亦不免亮出底牌。他的目標果然就是強幹弱枝，盡量壓縮地方武力，反而擴充自己的中央武力。「當高唱編遣之時，蚌埠上下竟滿布招兵旗幟，並先將教導團改為教導師，此種辦法是唯恐自己勢力不大、唯恐別人不能消滅，完全不顧念人民的負擔，也不計及部隊素質的良否」(《馮玉祥日記》第三冊，頁四十七)，自然引起大小軍頭的疑懼和不安。依馮玉祥看來，「日本小國、蘇俄大國，都有軍區制。我國現欲集權一身，