寧漢分裂，蔣介石無疑是「罪魁禍首」，因實由其一手主導，雙方劍拔弩張，大有短兵相接之勢，幸北洋軍閥未除，孫傳芳殘部與直魯軍主力猶在，意圖捲土重來，若寧漢鬩牆火併，勢必同歸於盡。於是雙方因情勢所逼，各自北伐，同仇敵愾，將內鬥暫時擱置。寧方北伐由何應欽、白崇禧、李宗仁分三路於一九二七年五月向隴海路挺進，連戰皆捷，六月二日克複徐州。約略同時，武漢北伐之師由唐生智、張發奎指揮，亦抵達隴海一線，進駐鄭州。馮玉祥則由潼關攻佔洛陽，逼迫奉軍北撤，促使山西閻錫山響應。此情此勢，原可齊心協力，直搗燕京，卒因寧漢分裂「黨」痛未消，各自為政，難以一致，最後各自班師。
武漢方面最初由於蔣之反共而聯共，然而由於共產黨組織的群眾運動如火如荼，國共間的利益衝突，亦在所難免，而適於此時，共產國際通過《關於中國問題的決議》，強調土地革命，欲動員中共實行土地革命，籌建紅色武力。共產國際代表羅易(Roy)並將決議副本送交汪精衛主席，汪感到有違一九二三年孫越宣言，共黨有取而代之之意，遂決定「分共」，解除鮑羅廷職務，且於六月六日率團北上，與馮玉祥會晤於鄭州，商議「分共」反蔣事宜後，再班師回漢，南下防共，以及部署東征，可見武漢國府於「分共」之後，仍要以武力制裁南京偽府，聲討叛徒蔣介石的。
然而蔣介石卻釜底抽薪，於六月十七日面晤馮玉祥於徐州，盛宴款待，結為金蘭，並大加利誘，於六月二十一日上午十時打電話給馮玉祥，「請派兵直搗武漢」，為馮所拒。(見《馮玉祥日記》第二冊，頁三三七)馮力主寧漢調停，並電武漢促使寧漢合流(見《致武漢汪譚等電》一九二七年六月二十一日)，以完成北伐大業。馮玉祥的態度至少也不助武漢東征，多少於蔣有利，而蔣仍欲回師西攻，解決武漢，只因李宗仁反對，堅持北伐而作罷。(參閱《李宗仁回憶錄》，頁三一五)不過寧方雖不西攻，漢方仍欲東征，雖因分共延誤，精銳確實已向下游移動，蔣介石遂召回李、白魯南之師。直魯軍乃乘機南撲，於七月二十四日攻陷徐州重鎮，南京震動，蔣介石乃親自出馬指揮，反攻徐州，並於出發前的紀念周上，聲稱不打下徐州不回南京。二十五日專程北上，親率五軍兩師，會同白崇禧部，與直魯軍戰於淮河、徐蚌之間，蔣以統帥親至前線，竟被敵人誘之深入以至中伏，使全線潰敗，敵軍乘勝追擊，大敗虧輸，狼狽不堪，於八月六日倉皇返寧。如此慘敗，羞憤可知，更何況誓言在耳，實難以下台，竟槍殺前敵總指揮王天培以泄憤遮羞。
蔣介石原想一舉奪回徐州，殲滅孫傳芳殘部，然後解決武漢。不意徐州未得，卻敗北如是，幸白崇禧壓陣有方、指揮若定，得免全軍覆沒，然敵炮已臨浦口，隔江可聞，顏面何存？而武漢東征之師已沿江而下，步步進逼，可謂左右受敵、內外交攻，實非引退不足以藏敗績之恥、非下野不足以消武漢之怒。武漢國府主席汪精衛早於七月二十三日便公開宣稱蔣介石「是黨國唯一的敵人、是國民革命軍唯一的敵人、是國民黨唯一的敵人」!(汪撰《中國國民黨告國民革命將士書》，載《民國日報》)武漢既已分共，倒蔣非因其反共，乃因其違紀，此亦蔣自知在兵敗之餘，非下台不可的原因。
蔣介石自徐州敗歸之時，即告李宗仁其下台已不可免，並以軍事相托，故引退絕非猝然。「辭職宣言」由陳布雷起草，到八月十三日於蔣離寧後才見諸報端，其間兩個月，尚須做復出的準備工作以及修改文稿等等。這篇宣言無疑經陳布雷精心包裝過，我們必須拆開來看，以見真相。蔣介石首先說：
中正自薰沐總理之教訓，即以二義自矢：一、認黨高於一切，在黨的利益之下，黨員個人絕無呈主觀、用感情、計利害之餘地。二、認捍衛黨基為黨員最大之天職。苟有逞智弄巧，陽奉陰違，篡奪吾黨基礎、剽易吾黨主義，使吾黨名存而實亡者，必竭全力以剷除之(《總統蔣公思想言論總集》第三十卷，頁五十二，另參閱《國聞周報》第四卷第三十三期)
他必須下台，即因自南昌以來，以個人之「主觀」、「感情」「利害」，抗命黨中央，甚至別立中央。武漢中央呼籲「恢複黨權」，即針對他而來。他原想以武力解決武漢黨中央，無奈兵敗，兩面受敵，只好引退以解困，而竟以「認黨高於一切」為說詞，顯然欲以「黑白講」來混淆視聽。至於他於宣言中護黨的振振之詞，從他日後一再「剷除」異己視之，直把個人的權力基礎與「吾黨基礎」畫等號，以責成黨員為他個人效忠，已藏其機。
他於八月十四日在上海發布的「辭職宣言」中又說：「昔日以黨之命令不能不進者，今若認中正一退，可解糾紛，中正固無時無刻或忘歸隱也……今既咎戾集於一身，即應自劾而歸去，解除職權，以謝天下。」(同上，頁五十二、五十七)此話才透露一點天機，已不是假設性的要他退。
李宗仁於蔣下野後赴廬山與漢方會晤，始知唐生智乃欲揮師下蕪湖，實如吳稚暉所說：「照唐生智那種氣勢洶洶，我們兩面受敵不了，蔣先生暫時歇一歇也好。」(李雲漢《從容共到清黨》，頁七六二)因蔣之「歇一歇」，漢方才肯派孫科與譚延為代表與李宗仁返寧議和，益知蔣在當時情況下，是非下台不可的。李亦因而體會到蔣下野這著棋下得高明，因一下野即失武漢東征的借口(參閱《李宗仁回憶錄》，頁三二五至三二七)，至少可為緩兵之計。李宗仁在回憶錄中還提到，蔣故意散布桂系「逼宮」的謠言，後來無論正史野史竟多以此謠言之成理而信之。李曾要蔣闢謠，蔣笑而不予理會，李懷疑蔣藉此打擊桂系。(見《李宗仁回憶錄》，頁三二○至三二一)其實「逼宮」之流言，無非想把蔣說成是一「受害者」，而混淆了他下野的真正原因。
接著蔣介石又在宣言中說：
幸賴主義之照臨、同志之用命，曾不數月，湘、鄂、贛、閩全告復，此非中正所敢貪天之功，實中央執委會付託之專，用能集中號令，團結內部，不虞牽制，以克奏斯績也。何圖包孕本黨之共產黨徒，奉鮑羅廷之發縱指示，造作種種蜚語，提出軍閥、獨裁等口號，冀直接打倒中正，間接打倒國民革命。而本黨本軍之一部分同志，不悟其奸，竟被所惑，遂以為中正有企圖軍閥及個人獨裁之傾向。(《總統蔣公思想言論總集)第三十卷，頁五十三)
由此可見，他於下野前夕，已想改寫歷史。他說「非敢貪天之功」，實把「克奏斯績」之戰功，歸諸於己。其實湘、鄂之戰，戰功屬李宗仁、唐生智，底定江南的首功是白崇禧，蔣僅具總司令之名，並無直接關係，而他親自指揮的南昌之戰與徐州一役，卻是整個北伐戰爭中最最慘敗的兩次。他之下台亦即因徐州喪師的後遺症，竟以「克奏斯績」來掩飾。此時武漢已分共，他仍以反共來轉移視聽。他痛罵鮑羅廷，但若非鮑助孫中山改組、若無俄援，廣州革命根據地何從建立？北伐何從開始？若非中共大搞群眾運動，何能四處響應，不數月而達京滬？他為了掩蓋「兔死狗烹」之事實，竟反咬共黨一口，予其清黨以合理化，並以「打倒中正」與「打倒國民革命」混為一談，且故意顛倒「打倒中正」之因果關係。至於其「個人獨裁之傾向」，在當時即未彰著，亦為其後來行事所證實，還不止是「傾向」而已，日益見諸具體行動矣。
他最後要求「武漢同志剋期聯袂遷移來寧，共同集合於南京，而謀黨國大政之進行」(同上，頁五十六)，則不得不承認武漢中央為正統，由漢遷寧，其自立之南京政府自須撤銷後併入。他於發表此宣言之後，又於八月十九日發電辭總司令職權。但他並非真正歸隱鄉里，實繼續在幕後策動，並於離寧前便已安排親信姚琮的警衛師與孫星環的憲兵團，駐守南京城，以及密令何應欽掌握其嫡系部隊，其伺機再起的意圖已十分明顯。既欲再起，時局不能搞得太糜爛，否則覆巢之下無完卵。李宗仁終於八月底九月初贏得棲霞龍潭之役，擊潰孫傳芳意圖南渡之師。但龍潭之戰是險勝。若失敗，南京固不守，整個江南亦難保，就可到全局潰敗的地步。李宗仁指出，緊要關頭偶然發現何應欽想收兵保存實力，幸及時制止。(見《李宗仁回憶錄》，頁三三五至三三六)何若無蔣命，何能出此？但同時蔣亦雅不欲時局太穩定，讓汪精衛遷都成功，統一黨權，否則將扼殺再出之身價。總之，蔣介石的如意算盤是，借下野以金蟬脫殼，然後見機效「哪吒鬧海」，於政潮迭起中脫穎而出，造成「斯人不出奈天下何」的局面，以達到集大權於一身的目標。
蔣介石下野後，李宗仁即於一九二七年八月十六日電告汪精衛，請將武漢中央政府儘快遷往南京，汪於翌日在國民黨中央政治委員會第四十七次會議上，宣稱：
遷都南京是中央四月初旬就決定了的議案，何況現在南京政府已經無人負責。據今天所收的報告，也說南京政府已經停止辦公，事實上已不存在，那麼我們應決定到南京去的方式。(見該次會議速記錄)
遂複電李宗仁，