渡江必須有船，有船還得有會撐船的人。因此，部隊到達江邊的第一個任務，就是籌集船隻，動員船工。經過一番宣傳動員，不少漁民獻出了自己的船。但有些船主對這些宣傳不感興趣，有的竟將船隻開進湖裡隱藏起來。這些船主，多是跑江湖的人，他們控制船工，由於吃過受騙的虧，對生人的話不輕信，但重感情，講義氣，喜交朋友，愛辦光彩事，願聽大官講話。
針對這些特點，部隊改變工作方法，與船主、船工搞聯歡，軍長、政治委員和政治部主任出面講話動員，號召他們參戰立功。三野還印發了《渡江船工光榮證》，有的軍還印了《船工立功證》。這些都有力激發了船主、船工的積極性。
第9兵團還明確宣布：船工及其家庭的生活，由部隊按制度供給，船工每天發糧3斤半，家屬大人2斤，6歲以下小孩1斤；傷者給予治療，工資照發；殘廢者，跟部隊人員一樣，發給榮軍證；犧牲者，給予撫恤，安置其家屬；船打壞了，壞多少賠多少，整個壞了賠新船。
後顧之憂解除，許多人爭著報名當船工，船主也自動把隱藏在湖裡的船隻交給部隊，把沉入河底湖底的船又打撈上來。敞開衣襟的船工們，握拳捶胸，吐出肺腑之言：「有我們在，就有船在，不把你們送過江，還算什麼闖江湖的漢子！」
就這樣，二野、三野一共籌集各型船隻9400多條，平均每個第一梯隊軍擁有大小船隻500多條，一次可運1萬多人。
有了船，部隊即開始進行游泳、乘船的「試水」訓練。早春的沿江地帶，乍暖還寒，河水冰冷刺骨，但幹部、戰士卻整天撲騰在河湖池塘里，不少人凍得連話都說不出來。然而，經過一段時間苦練，大部分北方來的「旱鴨子」變成了「水鴨子」，並學會了划槳、撐船、自救互救等技能。
接著，部隊又進行上船下船、航行編隊、通信聯絡、水上射擊、登陸突破等戰術演練。二野、三野都發出指示，要求在訓練中要貫徹有進無退、英勇頑強、獨立自主、配合友鄰的戰術思想，以及分散登陸、集中作戰，先登陸先突擊，小群動作，大膽猛插的戰術原則和動作要領。
據此，部隊間展開比賽，看誰的成績好。他們從河裡練到湖裡，又從湖裡練到長江。第21軍第185團3小時橫渡巢湖70里，靠岸登陸全團僅用了5分鐘！
訓練出成績，訓練還出發明創造。一個戰士的不慎落水，引發了大家對自製救生圈的思考。不久，各種各樣的救生圈製造出來了！
4月9日，劉伯承、張際春、李達向三野和第4、第5兵團各軍通報：
「我12軍渡江演習以廿斤稻草捆綁成圈試渡成功。因其面積小，又能露出胸部，戰士在渡江時尚可射擊。稻草圈浸水12小時，仍可使用。現正試以3個草圈連成品字形，以便互助小組協同前進，試行結果續報。」
4月14日，張震也將第10兵團在內河試驗成功的救生圈通報二野：
甲、用9斤至10斤蒲蘆葦或小麥秸，紮成一個一米三至一米五長之三角形（後一角須加一細棒），中間加150公分圓圈（用布裹住正合適人腰粗）。為增加抗力，草把圓圈應較人身體稍大些，縛於三角內，使用時使身體置於草圈中央。
乙、以火油箱兩隻，用繩布捆紮於腰部。
丙、以5個豬水泡吹充氣，勾結於腰間。
丁、以油布（美式油布最好）縫成車輪胎形圈袋（較人身體較大些），內部塞滿亂稻草（最好睡過）並藏空氣，將圈袋套於人胸部。
戊、以毛竹筒4個（每個一竹節）勾結於腰間（毛竹筒是去竹青皮，較輕，浮力大），試驗結果，其浮力使會浮水者能托一支機槍射擊，不會水者能托一支步槍射擊，浮水面與人之胸部，運動自如。
上述各材料易取且廉，也易制，輕便好帶，現該兵團正普遍自製使用。
各種救生圈的試製成功，對擔心落水而又不大會游泳的戰士無疑是一個福音。
船被槍彈擊穿漏水怎麼辦？這又是戰士們擔心的一個問題。通過實驗，他們找到了用棉絮塞船補漏的好方法。
此外，三野部隊還把汽車發動機安裝在木船上，把船改裝成土炮艇、衝鋒舟。
渡江時間日益臨近，將船隻送入長江成了大問題！
解放軍的船隻多在內湖、內河，但內湖、內河的出口或入江處，多被國民黨軍的炮火封鎖。在這種情況下，陸地行舟，將船抬入長江是一個辦法。但這樣既浪費人力物力，又容易損壞船隻、暴露目標。於是，部隊在群眾的幫助下，開渠灌水，掘堤引渡，拉船翻壩，將船隱蔽入江。
到4月初，後勤部門給部隊補充了3個至4個基數的彈藥，人民群眾為部隊備足了1個月的糧食，山東、蘇北、皖北的群眾組建了幾十個民工隨軍團，確保部隊打到哪裡，支前工作就做到哪裡。
至此，渡江作戰準備已全部完成。