鑒於國民黨軍主力損失殆盡，大半江山丟失，眼看南京風雨飄搖，蔣介石焦頭爛額，心灰意懶，國民黨內各派及數個省份要求蔣介石下野。
蔣介石終於認識到，一方面，他如不下野，國民黨內許多人不答應；另一方面，共產黨又要大軍壓境。在內外交困的情況下，與其在台上度日如年，倒不如退居幕後，以黨領政。
1月21日上午，蔣介石正式宣布下野，下午乘飛機離開南京城，從此就再也沒有機會回到南京了。
1949年1月24日，李宗仁在紀念孫中山會上舉行了一個簡短的儀式，就任代總統，面臨著一個收拾不了的爛攤子。
蔣介石「下野」回到溪口的第4天，1949年的1月25日，將何應欽、顧祝同、湯恩伯等人召集到溪口，開了一次小規模的軍事會議，部署長江防務。這是背著李宗仁、白崇禧召開的一次軍事會議。
蔣介石說：「我決定把長江防線劃分為兩大戰區。湖口以西歸白崇禧他們去管，其兵力大約有40個師，湖口以東歸湯恩伯，大概有75個師，45萬人。」
蔣介石面對湯恩伯說：「你在南京孝陵衛總部指揮所，要經常控制一二百輛卡車，以便隨時使用。你要把主力放在鎮江以東，確保滬杭。」
蔣還對湯恩伯說：「江寧要塞的大炮，你要秘密拆運去上海。」
湯恩伯根據蔣介石的作戰方針，策定長江防禦要領。他就具體作戰方案向蔣介石彙報說：根據總裁批准的作戰方針，我們決定長江防線指導要領如下：
一、共軍如由鎮江，南京段正面渡江時，應以機動部隊闕漢騫的54軍、胡長青的99軍突擊殲滅之；如不奏效，第一綏靖區顧錫九的123軍、王克俊的第21軍、王秉鉞的第51軍，由鎮江沿公路和鐵路逐次抵抗，直到退至上海。海空軍全力協助地面部隊，以確保淞滬地帶。
二、共軍如由皖南渡江時，張世希的第七綏靖區的第66軍、20軍和劉汝明的第8兵團各部隊應獨立作戰。曹福林的第55軍、於兆龍的第96軍、劉汝珍的第68軍應伺機反撲。如不奏效，應適時退出皖南，以確保浙贛線的安全。南京以東部隊，確保長江、錢塘江三角地帶，不得已時再退守淞滬。
三、共軍如只從正面渡江時，各部隊應根據上述兩項布置指導作戰。
湯恩伯向蔣介石誓言：「總裁放心，長江防線固若金湯。我們還在長江方向部署了機動部隊，如共軍由鎮江、南京段渡江，我軍可以突擊殲滅之；如不奏效，第一綏靖區各部隊當由鎮江沿公路和鐵路逐節抵抗，退至上海，然後以海軍全力協助地面部隊，確保淞滬。」
蔣介石在地圖上比畫了一陣，表示很滿意。他笑著說：「這才是我們治國的根本大計。至於和談，只不過是爭取一點時間而已。」
根據上述作戰指導要領，湯恩伯把京滬杭警備司令部所轄的兵力作了如下的部署：
第一、淞滬警備司令部，司令官陳大慶，下轄羅澤第37軍、劉玉章第52軍、吳仲直第75軍、朱致一第95師和馬志超交警總隊4個團。防區為白茆口、崑山、青浦、嘉興、嘉善、浦東之線，任務是以有力一部守備金山衛、奉賢、南匯，特別警戒上海市區。
第二、第一綏靖區，司令長官丁治磐，下轄顧錫九第123軍、王克俊第21軍、王秉鉞第51軍、王作華第4軍、董繼陶暫編第1軍。其主要任務是以有力部隊確保八圩港至儀征各橋頭堡陣地，以一部守備白茆口至沙頭峰之江防，並確保滸浦、福山、鹿苑鎮、楊舍、江陰，孟河、大港、鎮江、高資、橋頭各據點。對鹿苑鎮北之夾江洲島、揚中、新碼頭、瓜洲、禮州、義渡局特別警戒。該綏靖區另以一部迅速肅清茅山、蘇浙邊區及太湖區之游擊隊。防區東至白茆口、崑山，西至鎮江與南京間之橋頭鎮。
第三、首都衛戍司令部，司令官張耀明，下轄陳沛第45軍、劉秉哲第28軍，其防守任務是以一部鞏固大海、烏江鎮各橋頭陣地。江南地段，迅速加強工事，以一部守備橋頭鎮至銅井鎮間的江防，並確保龍潭、棲霞及大勝關。對新州車站附近江岸應特別警戒。
第四、第七綏靖區，司令長官張世希，下轄羅賢達第66軍、楊幹才第20軍、楊寶轂第88軍。以一部守備銅井鎮至鋼陵鎮間之江防，確保採石、當塗、蕪湖。對荻港附近之江面特別警戒。控制有力部隊於蕪湖繁昌機動。對各橋頭堡陣地、江心洲，須派必要部隊佔領。防區東至鋼井，西至鋼陵。
第五、第8兵團，司令官劉汝明，下轄曹福林第55軍、於兆龍第96軍和劉汝珍第68軍，擔任銅陵至湖口之江防，各橋頭堡陣地派有力部隊確保之。
第六、機動兵團由湯恩伯直接指揮，包括駐守在丹陽的闕漢騫第54軍和駐守龍潭的胡長青第99軍。在做完兵力部署之後，湯恩伯嚴令各部隊立即在各自的防區修築江防工事。湯恩伯還不斷到各部隊視察，督促沿江部隊加緊備戰。他在常州召集京滬線守備部隊團長以上軍官開會，為他們打氣說：「我們一定要守住長江，才能扭轉局勢。……我們天上有飛機，江上有兵艦，岸上有要塞，炮火優於共軍，對民船偷渡不足為慮，所以守住長江，阻止共軍渡江應該是沒有問題的。」