在渡江南進的百萬解放大軍攻擊之下，國民黨軍和國民黨政府，先是欲作困獸斗，接著即作鳥獸散。4月21日，李宗仁召集何應欽、白崇禧、顧祝同等高級將領商討今後戰略。與會諸人傾向白崇禧的計畫，即放棄南京、上海，把湯恩伯的主力移至浙贛線和南潯線，與華中40萬國民黨軍成為掎角，以固守湘、贛，防止解放軍進入西南。22日，蔣介石在杭州邀約李宗仁、何應欽、白崇禧、張群人等商談對策。眾人懷著緊張不安的心情，齊集筧橋空軍學校會議室內。
不一會兒，蔣介石拖著病弱的身體，手持拐杖緩步而來，蔣經國、陶希聖左右侍候。雙方一番寒暄，兩旁坐下，蔣介石朝眾人苦笑一聲，強打精神說道：「現在，這個，這個局勢，大家都看到的了。我以為沒有關係，我們還有大西南大後方做基地，還有幾百萬人，還有海空精兵，比共軍當年在延安時好得多，而且我們還有美國援助，大家，大家不必灰心。」
眾人聞言，齊在心頭嘆氣。接著討論南京，上海要不要守？結果討論紛紜，最後蔣介石說：「這樣吧，守南京似乎不易，上海非守不可，我們在上海的準備，共產黨有300萬人馬也攻不進，我認為應該守住上海，以及滬杭路一帶。」他吃力地說：「長江，給他們過了；錢塘江無論如何要守住！浙贛路，是我們今天的主要防線，大家有什麼意見？」
何應欽叫嚷道：「我們要抵抗到底！」
蔣介石說：「對於共軍不是抵抗到底，而是戡亂到底。」
李宗仁說：「我認為今日之下，過去我們苦守據點的戰略該檢查檢查，是否合適。守據點本來不錯，無奈一個個據點都給對方吃掉，這就說明了這個戰略毛病百出！我主張從今以後要同共產黨從事機動作戰，再也不能打陣地戰了。」何應欽對此也表示贊同，主張今後以打運動戰為宜。
蔣介石對李宗仁的意見卻不以為然，反問道：「那麼南京非放棄不可了？」
李宗仁硬著頭皮反問：「如果不放棄，湯司令有妙計可以挽回劣勢嗎？」
「今天不是個人問題了，」蔣介石知道李宗仁同湯恩伯之間的摩擦，冷冷地說，「李代總統都不能想個辦法守住長江，湯司令怕更沒用！」
會議正在進行期間，前方又打來電話報告說：「滬寧線已被共軍切斷，在西起湖口，東至江陰的千里戰線上，國軍不是被圍，就是在後撤，南京危在旦夕。」蔣介石隨即命令：將南京的火車站、碼頭，水電廠都炸掉，把所有的部隊都撤到滬杭一帶。
下午2時，國民黨軍倉促部署江防總撤退，劉汝明集團退向浙贛路之上饒，1綏區、7綏區和南京衛戍總部沿京杭國道退向杭州，1綏區一部退向上海，7綏區一部退向金華，至22日23時京鎮一線之敵全部撤完，23日晨蕪湖地區之敵亦向南撤。國民黨軍企圖在浙贛鐵路和上海地區組織新的防禦。
與此同時，南京國民黨政府重要官員也慌張地攜家眷四散逃命。22日，國民黨政府各院、部、會已撤往廣州；其總統府亦於同日撤往上海；23日晨，行政院長何應欽逃離南京飛往上海，代總統李宗仁放棄原定飛廣州的計畫而臨時決定改飛桂林，靜觀局勢變化，再作抉擇。
23日上午，國民黨軍撤離南京時，放火焚燒了城內的許多房屋，在濃煙烈火瀰漫中逃出了這座統治22年的「首都」。下午，解放軍前哨部隊第35軍進抵南京東部，由和平門入城。23日夜12時起至24日上午，解放軍大部隊由下關經挹江門，源源開入市區，雄壯的軍列，攜帶新式輕重武器的解放軍指戰員，受到南京成千上萬學生和市民的熱烈歡迎，男女學生們紛紛向解放軍獻花致敬。在人民解放軍發起渡江作戰僅3天時間，便攻佔了國民黨政府首都——南京。
當年參加解放南京戰鬥的35軍105師政治委員宋獻璋在回憶文章《紅旗插上南京城》中是這樣描寫蔣家王朝末日的：「踏進這個大門，滿目是朱紅油漆的柱子和華麗的長廊。『總統府』儼然是一個封建王朝的皇宮。地上、走廊里碎紙亂飛，一片狼藉。走進最裡頭一幢房子，便看見了蔣介石的『寶座』。寫字檯的日曆，翻開到『4月22日』。它好像攤開雙手，對我們說，請看，這是反動王朝的末日！」（《星火燎原》選編之十，第335～336頁）