唐生智的部隊號稱百團，但基幹主力實際只有三個軍，其餘大多是臨時拼湊而成的烏合之眾，戰鬥力並不強。同時，這三個可供指揮的軍又都分別集中在安慶、蕪湖、武漢，每座城市駐一個軍，成了一條長蛇陣，力量很分散，並不利於作戰。西征軍勢如破竹，為時不足一月，便已攻至武漢城下。
其實唐生智本來有更好的選擇。早在蔣介石遭到「李白」「逼宮」時，黃郛和蔣百里就曾到漢口找過唐生智。他們認為，以當時軍事人物所擁有的影響力而論，蔣介石、新桂系、馮玉祥、閻錫山可謂並駕齊驅。既然蔣與桂已有意見，黃郛建議唐生智與蔣合作，然後以蔣、唐合作為中心，再聯合閻、馮，這樣，新桂系就不敢動了。
蔣百里也向唐生智強調了與蔣介石合作的重要性，甚至還說：「你們可以拜把子嘛！」
那個時候，唐生智誰都看不起，無論蔣還是桂，遂一口回絕。
黃郛來漢口，當然是替蔣介石說話。與之稍有不同的是，蔣百里主要還是為唐生智著想。作為民國時期首屈一指的兵學家，蔣百里曾任保定軍校校長，唐生智就讀於保定軍校第一期，在校時學習成績優異，是蔣百里的得意門生。
眼見得唐生智終於被新桂系一步步逼至絕境。蔣百里又重新聯絡已從日本歸國，即將準備復出的蔣介石，蔣介石表示仍願意與唐生智合作，並授之以計：能打垮新桂系就打，否則按兵不動，並退回湖南，經濟上可由他負責接濟。
唐生智的部隊以湘軍為主體，收縮至湖南後，他們既有熟悉地形之利，又能相對地集中力量，至少守住湖南是有可能的。要說有問題，其實也就是經濟會遭遇困難，過去唐生智遇到軍費不足的情況，都得靠湖北、安徽兩省的稅收接濟。
在蔣介石已經承諾由他補貼銀子的情況下，蔣百里感到這是幫助唐生智擺脫困境的一條上上之選，因此急忙託人轉告唐生智。
沒想到一番好意卻並沒有能夠得到愛徒的理解。唐生智認為，蔣、桂以後終究要發生衝突，如果他同蔣合作，桂一看情勢不對，也可能會迅速改變立場，轉而與蔣合作，那還不如回到先前的狀態呢。
唐生智的說法可以說有道理，也可以說毫無道理。民國交戰，本來就是分分合合、合合分分，但這種分合也都會依條件維持一段時間。蔣既答應跟唐生智合作，只要不出現太大的意外，不見得就會馬上拋下自己的合作夥伴，否則於情於理都不太講得通。
唐生智實際上還是看不慣蔣介石，不想跟他合作。第一次北伐戰爭期間，蔣介石在南昌召集會議，著重討論軍隊整編問題，唐生智也參加了那次會議。他認為蔣介石持論不公，私心很重，從此就對蔣心懷不滿。
在唐生智的心目中，他是把自己和蔣、桂放在一個盤子里的，所謂三足鼎立。按照他的算計，如果他不下野，就會有三種可能。第一種，他不出所料地被桂打垮，那麼他將和桂兩敗俱傷，佔便宜的是蔣介石。第二種，發生奇蹟，新桂系被他打垮，但唐、桂還是兩敗俱傷，佔便宜的仍然是蔣介石。第三種，蔣、桂合起來打他，那他唐生智就可能萬劫不復了。
為了不讓這三種可能中的任何一種發生，唐生智下決心離開部隊，通電下野。當然他的下野跟老蔣一樣，都是暫時離開，沒有打算從此洗手不幹。
無論湘軍還是桂軍，維繫首領與軍隊關係的，都不是什麼「革命」，而是私人感情。說穿了，就是首領與各層面軍官們的利益關係。因為軍官們都知道，只有提拔自己的大頭頭在，他們的利益和位置才能得到最大程度的維護。唐生智估計，至少兩三年內，他的湘軍不會出問題，也就是說兩三年後等他回來，那些軍官大部分還在，他仍然可以掌握住這支軍隊。
唐生智在江湖上摸爬滾打多年，早就練就了一套生存技能和過硬的心理素質。決心既下，他立即做出部署：自己東渡日本，部隊退回湖南。
這時唐生智得到情報，說程潛與張國威、何鍵有聯繫。張國威是第八軍第一師師長，何鍵是第三十五軍軍長，先前他還被唐生智任命為安徽省主席，兩人所掌握的部隊都是湘軍主力。有人建議將張、何一齊殺掉。唐生智回答道：「不要把部隊搞散了。目前不必操之過急，先找他們來問問再說。」
對程潛聯繫何鍵、張國威，唐生智並不感到特別意外。畢竟大家都是湖南小同鄉，程潛又主湘多年，過去與何、張都有些舊關係，來打招呼是很自然的，事情並不奇怪。他要確定的是，何、張是否真的已變了心，若果真有了異動，再殺頭也不遲。
在乘船離開武漢的當天晚上，唐生智把三個主力軍的軍長李品仙、何鍵、劉興叫到自己的公館，對他們說自己將去日本，部隊「暫時撤回湖南，把湖南搞好」，今後的問題由三人負責商量。
正在談話的時候，張國威也應召走了進來，並報告了對軍隊布置的情況。見何鍵、張國威都在，唐生智就把他們與程潛有聯繫的事提了一下。
何鍵與張國威是同鄉兼同學，都畢業自保定三期步科，兩人同時在部隊見習，又同時靠搞地方游擊隊起家。不同的是，何鍵在那一期步科中年齡最大，城府最深，相對而言，張國威則頭腦簡單，心胸狹窄。聽唐生智提到程潛，何鍵情知不妙，頓時嚇得渾身發抖，唐生智問什麼他答什麼，不敢有絲毫隱瞞。張國威卻依舊一副無所謂的樣子，對程潛委任他當第八軍軍長的事也繼續瞞著不說。
唐生智見狀，便讓張國威退出了，其他人繼續討論。
張國威是第八軍軍長李品仙的部下，但平時卻不大聽從李品仙的指揮。這時李品仙被觸動了情緒，便痛哭流涕地說自己反正也指揮不動這個張國威，不如和唐生智一起下野出洋（出國）的好。何鍵和張國威在被唐生智收編時就有很深矛盾，如今牽扯到程潛的事，為了幫自己解脫，也連忙插嘴說：「我們的部隊向來很好。部隊不聽指揮，那還行嗎？」
唐生智本來已暗暗做出判斷，即何鍵無反心，可不予處分，而張國威則有意謀反，罪在不赦。何鍵的落井下石，更起到了火上澆油的作用，他馬上讓副官再把張國威叫回來。