1949年4月20日時，即南京國民黨政府拒絕在《和平協定》上簽字的當天，中國民人解放軍第2、第三野戰軍百萬雄師發起了渡江作戰。頓時，長江北岸，萬炮齊發；長江江面上，千帆競渡。與此同時，第四野戰軍之第12兵團，在肖勁光率領下，向白崇禧部在江北的漢川、孝感、黃陂、新洲地區展開了一系列的攻擊作戰。
20日8點整，渡江中集團總指揮譚震林憋足一口氣，對著無線電話筒，雷霆萬鈞地下達命令：向江南進軍！
偉大的渡江作戰開始！
進軍命令下達後，人民解放軍百萬大軍分3路在西起九江東至江陰的1500里的戰線上，以雷霆萬鈞之勢，向長江南岸廣大區域舉行了規模空前的大進軍。此次渡江作戰，分幾十個點，實行寬正面渡江，敵防不勝防，敵空隙甚大，兵力強弱不等，一處成功，其他各處可繼續奏效。
以譚震林指揮的中集團（7、9兵團）7個軍30萬人，其第一梯隊4個軍（7兵團之第21、第24軍，9兵團之第25、第27軍）於4月20日晚8時，由石磯頭至魯港段首先發起進攻。渡江時刻，江面風浪平靜，數千隻木帆船在強大炮火的掩護下，冒著敵艦和江防炮火的攔截，在數百里江面上揚帆疾進，迅速突破了敵防線。《人民日報》當時作了如下報道：「一時紅旗揮動，衝鋒號齊響，炮火映紅了的江面，突然揚起幾千張白帆，逕向對岸的火光飛去。……對岸敵人開炮了，炸彈在中游掀起水柱，巨浪撞擊著船身，而突擊隊依然破浪前進。」（《人民日報》1949年4月28日）解放軍此次渡江，僅遇到很微弱的抵抗，經過10個小時的戰鬥，至21日晨6時，佔領了荻港、魯港地區，並向繁昌、銅陵地區擴張。中集團突破江防後，敵陣呈現潰亂的局面，解放軍頃刻全線向南岸縱深猛烈發展。湯恩伯於21日倉皇坐飛機趕到蕪湖組織防堵，但已無濟於事。
在中路：中集團突破安慶、蕪湖防線後，24小時之內已渡過30萬人。21日下午，連克繁昌、順安、銅陵等縣城。22日中午，突入國民黨軍防禦縱深50公里廣大地區，攻克貴池縣城，並向青陽猛進。23日，中集團第二梯隊的各軍也全部渡到南岸。這一地段的敵戰鬥力十分薄弱，按李宗仁的話說：「中共大軍如入無人之境。」（《李宗仁回憶錄》（下冊），第965頁）
在西路：以劉伯承、鄧小平指揮的二野西集團（3、4、5兵團）9個軍35萬人，在強大的炮火支援下，21日下午5時起開始由棕陽至望江段強渡。渡江後，劉伯承給二野下達命令，擔負「截斷浙贛線、杭徽線，殲擊該兩線之敵，準備而後進擊杭州之目的」（《截斷浙贛線、杭州徽線》，《劉伯承元帥大軍指揮手記》，海軍出版社1989年版，第405頁）的任務，其中3兵團進擊徽州地區敵人；5兵團進擊衢州截敵；4兵團進擊上饒地區敵人。自貴池至彭澤間渡江的部隊，22日佔領南岸沿江200里陣地，並解放彭澤、至德兩縣城及貴池、東流、至德、彭澤之線的廣大地區。自馬當以東渡江的部隊，攻佔黃山、香口等要點，並向縱深發展。西集團所遇之敵亦毫無鬥志，紛紛潰退。22日已渡過30萬人，主力直趨浙贛線，迅速切斷湯恩伯、白崇禧兩集團的聯繫。
在東路：以三野代司令員、代政治委員粟裕和參謀長張震指揮的東集團（8、10兵團）8個軍35萬人，與西集團同時發起渡江作戰。在儀征至南通段，21日晚至22日拂曉，一夜間渡過30萬人，22日佔領揚中、江陰縣城，及揚中、鎮江、江陰一線的廣大地區。在常州以北，22日晨佔領利港至桃花港一線，並向南猛進，切斷了京滬鐵路線。在鎮江至江陰段，解放軍於20日至21日渡江時，先後兩次遭企圖阻止解放軍渡江的英帝國主義4艘軍艦和國民黨軍艦的炮擊，造成252人傷亡。解放軍當即奮勇還擊，將英艦「紫石英號」擊傷於鎮江附近江面，其餘3艘英艦逃往上海。在粉碎帝國主義的武裝挑釁後，中國人民解放軍總部發言人發表聲明，指出：「中國的領土主權，中國人民必須保衛，絕對不允許外國政府來侵犯。」（《人民日報》1949年5月1日）同時警告英、美、法等帝國主義國家的武裝力量必須迅速撤離中國。21日晨，東集團部隊通過江陰要塞地下黨組織將國民黨軍江陰要塞司令戴戎光捉住，並於22日上午又爭取了江陰要塞守敵7000餘人起義，完全佔領江陰要塞，並且封鎖長江，不讓敵艦東逃西犯。江陰要塞起義為解放軍順利渡江成功，創造了有利條件。
截至4月22日13時，三野之7、9兵團大部過江；二野之3、4、5兵團亦已過江；東集團之第29、第28、第23軍3個軍已過江。此時，總前委致電向中央軍委報告說，至此渡江任務業已完成。我軍今後力爭迅速完成東西打通聯繫，割裂敵人，截斷浙贛路。為策應東集團作戰，從22日起，「譚震林率7、9兩兵團直歸粟（裕）指揮。」（《渡江戰役》，第111頁）
與三野、二野橫渡長江的同時，四野先遣兵團和中原軍區部隊，先後解放黃梅、浠水、漢川等地，有力地鉗制了白崇禧集團，策應了二野渡江作戰。
至此，國民黨準備倉促，布置未周且不打算死守的長江防線頃刻土崩瓦解。國民黨宣傳很久之「長江天塹、無法飛渡」的神話歸於破滅。人民解放軍在渡江作戰時遭敵炮擊、轟炸共傷亡8000人。解放軍如此神速突破「長江天險」，一方面，由於渡江前作了充分的準備，部隊情緒高漲，英勇善戰，所向披靡，銳不可當。另一方面，由於敵陣混亂，無全盤布置，抵抗甚微，使解放軍完全按預定作戰計畫，迅速向縱深發展，達成分割包圍之目的。