三野7兵團第23軍先頭師於5月24日投入市內。9兵團第20軍主力亦於24日夜從高昌廟龍華一帶西渡黃浦江，至午夜1時，各路大軍即在市中心跑馬廳會師，佔領大部分市區。25日上午10時已全部控制蘇州河以南市區，並佔領蘇州河上的3座橋樑，攻入河北地區。至此，蘇州河北之敵極度混亂，恐慌萬狀。
負責指揮殘敵作戰的淞滬警備副司令劉昌義在人民解放軍強大的政治攻勢下，於25日和26日，率其所部21軍、51軍、123軍殘部共4萬餘人，在真如、大場等地向解放軍投降。
25日晚全線繼續猛攻，東西兩兵團對吳淞要塞發起總攻。10兵團直撲吳淞，9兵團強渡蘇州河指向江灣楊樹浦地區，以共同會殲敵之主力。26軍於25日晚至26日晨先後攻佔真如、大場、江灣、江灣車站、國民黨京滬杭警備司令部、淞滬警備司令部等許多重要據點及廣大市區。浦東方面，31、30兩軍26日晨全部肅清高橋地區之敵。
浦西方面，29、25兩軍於26日晨2時佔領獅子林炮台，晨4時攻佔寶山縣城和吳淞鎮，俘敵13000餘人。33軍攻佔楊行。27軍於27日午受降最後一批大股請降之敵230師全部於楊樹浦。至此中國第一大城市上海全部解放，淞滬作戰勝利結束。
口口聲聲要堅守大上海6個月，要與上海「共存亡」的蔣介石和湯恩伯，壓根兒就沒有想到人民解放軍僅用了不到十多天的時間就攻佔了上海外圍陣地，並從部分地區突進了市區。他們頓時慌了手腳，蔣介石急忙從復興島逃到吳淞口外的軍艦上，湯恩伯也於5月24日下午把京滬杭警備司令部轉移到停泊在吳淞口的軍艦上，隨時準備逃跑。
眼見上海是守不住了，蔣介石授意湯恩伯想辦法把嫡系部隊從上海撤退出來，以保存所剩不多的殘餘力量。
於是，湯恩伯秘密指示嫡系各軍及特種兵部隊悄悄向吳淞口碼頭轉移，準備登船撤退。截至5月26日，除第37軍被解放軍分割在蘇州河北岸未接到撤退命令外，屬於蔣介石嫡系的第12、第52、第54軍已先後登船撤離了上海。
為掩護嫡系部隊撤退，湯恩伯玩弄花招，把一些雜牌部隊派到第一線去接替預計要撤退的嫡系部隊的防務。5月24日夜，湯恩伯以調整部署的名義，下令將非嫡系的第21軍與嫡系第52軍換防。21軍奉命於第二天拂曉前接替了52軍在月浦、楊行地區的防務。
在接防過程中，21軍途經江灣、吳淞道，看到這裡人山人海，車輛物資堆積如山，秩序非常混亂。他們雖然知道情況緊張，但還未察覺出湯恩伯和52軍已準備逃跑，因此非常認真地執行湯恩伯的命令，到了前線後就連夜加固工事，當解放軍發起進攻時，他們還作了頑強抵抗。
直到第二天晚8時，21軍軍長王克俊得知湯恩伯的逃跑計畫後，急忙用電話通知21軍各師、團長以開會名義到軍部集合，然後拋下部隊，帶著這些親信登船逃走了。這時，在前線的21軍官兵仍被蒙在鼓裡，還在進行徒勞無益的抵抗。直到湯恩伯派到21軍擔任聯絡的高參周屏中到各團進行勸降，這些官兵們才知道湯恩伯和他們的軍長、師長、團長拋棄他們逃走了。他們氣憤地破口大罵，隨即停止抵抗，在周屏中的聯繫下，向解放軍集體繳械投降。
關於撤退的蔣軍嫡系部隊的狼狽混亂情形，從第54軍第291師的局部情況中，可見一斑。5月25日中午，291師奉命由浦西大場陣地開赴江灣、吳淞間的張華浜碼頭上船，並限令在下午8時以前趕到。291師師長吳世英接到命令後，馬上集合所屬團長、營長，對他們說：「現在情況緊急，我們馬上就要走了。根據上司的命令，在陣地上的只救營長以上軍官，部隊都不管了。能帶走的部隊都要輕裝。不能帶走的騾馬、彈藥、行李等一律銷毀，不要被共軍利用，部隊行動愈快愈好。」
這些團、營長接到命令後，立刻回去集合起部隊，奪路向張華浜碼頭疾進。由於沿途道路被車輛、物資和亂軍擁塞住，291師官兵在中途被衝散走失了不少。
291師第873團團長何軒葉率部在逃跑中，見市郊到處都有房屋焚燒，潰散官兵像熱鍋上的螞蟻，部隊在離碼頭十幾里處就被堵得走不動了。何軒葉乾脆拋棄部隊，和副團長、幾位營長帶著一個警衛班向著碼頭衝去，擠了2個多小時，好不容易才跑到碼頭上。這時，張華浜碼頭已在解放軍的炮火控制之下，許多船隻為躲避炮擊都開到吳淞口外去了。何軒葉等人只找到一艘機器有故障的登陸艇，不管三七二十一，與千餘名潰兵一起擁上船，強行開船。結果，這艘登陸艇行駛到吳淞口就擱淺了。何軒葉等人終未能逃走，都當了解放軍的俘虜。
蔣介石得知上海全部解放後，於5月28日乘飛機由定海飛抵台灣岡山，再轉高雄壽山。