渡江作戰前，總的形勢對人民解放軍已十分有利，但要突破有幾十萬國民黨軍防守的長江天險，還存在著很大的困難。不僅沒有現代化的航渡工具，就連木船也極端缺乏，更缺乏熟悉長江風浪、善於掌帆把舵的船工和水手；北方籍戰士不懂水性，缺少水上作戰的經歷；領導幹部缺乏組織指揮大兵團大規模強渡江河的經驗；沒有海空軍的掩護；部隊中還存在著一些不正確的思想和顧慮，對渡江作戰缺乏足夠的決心和信心；長江北岸地區大多是新解放區，群眾尚未充分發動，後方補給線長，船隻、船工的徵集均有很大困難。這些困難和思想問題不解決，將無法完成渡江作戰的任務。因此，中央軍委和總前委一再要求參戰各部隊，要認真做好渡江作戰的準備工作，解決和克服存在的各種困難，消除幹部戰士的思想顧慮，奪取渡江作戰的勝利。參戰各部隊在總前委和第二、第三野戰軍前委的統一部署下，認真進行了渡江作戰的各項準備。
1948年初，為了執行中央軍委關於由粟裕率3個縱隊渡江南進的任務，華東野戰軍派出1個加強營和200餘名幹部前往皖南，中原局也派出一批幹部到安徽的含山、和縣、巢湖地區開展工作。5月，華東野戰軍又派出由10個營組成的先遣縱隊和部分地方幹部南下，在長江邊發動群眾，進行調查研究，詳細調查長江的渡口、水文以及相連的湖河港汊情況，繪製了地圖。與此同時，還請東北軍區代購了一些引擎，將木船改裝成機帆船。上述工作，為做好大規模渡江作戰的準備工作打下了初步的基礎，提供了經驗。淮海戰役結束後，參戰各部隊正式開始進行渡江作戰的全面準備。
1949年2月底3月初，第二、第三野戰軍休整結束，先後由河南的漯河、沈丘，安徽的阜陽和江蘇的徐州、海州地區南下。第二野戰軍領導機關進至安徽舒城，爾後又進至桐城；第3兵團進至安慶、望江地區；第4兵團進至太湖、宿松地區；第5兵團進至桐城地區。第三野戰軍領導機關進至江蘇泰州以南的白馬廟；第7兵團進至安徽的廬江地區；第9兵團進至無為、含山地區；第8兵團進至江蘇揚州、儀征地區；第10兵團進至泰興、靖江地區。各部隊進至長江邊後，除以少數兵力監視當面守軍外，集中力量從各方面全面地進行渡江作戰的直接準備。
經過休整期間的政治整訓，廣大指戰員初步樹立了將革命進行到底的思想。但是，由於時間短，工作繁多，教育還不夠深入，渡江作戰任務下達後，在幹部戰士中產生了一些錯誤的思想和顧慮。一方面，一部分人只看到渡江作戰的有利條件，認為「長江很長，敵人兵力分散」，「各路一齊過，敵人防不勝防」，「我們一佔領南京，蔣介石就完蛋了」。有的人存在著僥倖心理，說：「人家能過我也能過」，等等。國共兩黨開始和平談判後，部隊中又產生了「和平渡江」，「和平接收江南」的思想，因而產生了盲目樂觀、麻痹鬆懈的情緒，缺乏克服困難、繼續進行艱苦作戰的思想準備。另一方面，一部分人過分強調和估計渡江作戰的困難，擔心過不了江，對渡江作戰缺乏足夠的信心。他們認為：「江南好打，長江難過」，「敵人有飛機、兵艦、水雷封鎖」，「江寬不能搭浮橋，乘木船又上有飛機，下有敵人的軍艦大炮」。廣大北方籍戰土對長江和渡江作戰存有恐懼心理，怕渡江「途中暈船」，怕「迷失方向」，怕「船到江心被打中漏水沉掉」，「怕水上隊伍混亂，掌握困難」，怕「船未靠岸敵人發覺突然開火」，怕「對岸沙灘陷腳」登不上岸，等等。有的甚至傳說什麼「江豬會吃人，能把船撞翻」，「兵艦能把長江劃成一條深溝」。部隊由休整地到達長江邊後，在一部分幹部戰士中又產生了一些新的思想問題，有些家在北方的指戰員感到渡江後，越走離家越遠，擔心回不了家，通信不方面，顧慮到江南後，「飯也吃不慣，話也聽不懂」，「江南山多水多打仗不習慣」。有的甚至以訛傳訛地渲染江南生活上的困難，如說南方「天氣熱得喘不過氣」，「吃南方大米要拉肚子」，「江南蚊子大得能咬死人」，「三個蚊子可以炒一盤菜」，等等。有些人則認為，江南地方好，生活好，大城市多，到江南後可以逛大城市，住洋房。
有些家在江南的戰士則認為，渡長江後離家近了，可以回家了，存在著急於渡江，準備還鄉的情緒。上述思想問題，雖是一些幹部戰士不能正確對待個人利益的反映，但主要原因還是由於他們不了解敵我雙方的情況，不了解長江水情和渡江作戰存在的困難而引起的。針對上述思想問題，總前委和第二、第三野戰軍前委在具體解決渡江作戰的困難的同時，從提高廣大指戰員的思想覺悟入手，圍繞著增強和堅定奪取渡江作戰勝利的決心和信心這個中心，開展強有力的政治思想工作。
首先，教育幹部戰士樹立戰鬥渡江的思想，堅定奪取渡江作戰勝利的決心。針對一部分幹部戰士中存在的「和平渡江」、「和平接收」的思想和盲目樂觀、麻痹鬆懈，缺乏繼續進行艱苦作戰思想準備的情緒，中央軍委和總前委一方面向部隊指戰員指明，在國共兩黨舉行和平談判的情況下，如果和談成功，解放軍即可實行和平渡江，用「北平方式」接管江南廣大地區和南京、上海等城市。要求部隊要有這方面的思想準備。另一方面又反覆強調，如果和談破裂，解放軍將實行戰鬥渡江，用「天津方式」解決江南國民黨軍。全軍指戰員的立足點應放在這一點上，要有艱苦作戰的思想準備，各項準備工作應立足於戰鬥渡江上。特別是在國共兩黨和談開始後，解放軍數度推遲發起渡江作戰的時間，中央軍委於4月11、16日先後指示總前委：「我方立腳點，必須放在對方反悔上面，必須假定對方簽字後不公布，或公布後不執行。」「你們的立腳點應放在談判破裂用戰鬥方法渡江上面」。根據中央軍委的指示，總前委於4月12日指示第二、第三野戰軍前委和各兵團黨委：我軍推遲渡江，完全是政治上和軍事上所必須採取的部署，在此期間內，為了防止鬆懈戰鬥意志和迷失方向，必須在部隊中進行充分教育，說明下列諸點：和平談判頗有進展，有可能在最近簽訂協定，此種協定實際上就是國民黨的投降，故於全局和人民有利；我們渡江，應站在政治上最有利地位的基礎上進行渡江，就是說如果談判破裂，責任在對方，如果協定簽字後對方不實行或拖延執行時間，其責任亦在對方；我們在談判結束之後渡江，則是理直氣壯，而且當我們在政治上做到這一步時，敵人內部將更加瓦解混亂，好戰分子將更加孤立，不僅爭取了主和派，還可能分化一部分主戰派；全國人民必更擁護我們，屆時無論和平渡江或者戰鬥渡江都更有利；要估計到現在國民黨軍隊大部分掌握在蔣介石死黨手裡，即使簽字了協定，他們都還有繼續抵抗的可能；所以我們一切應從戰鬥渡江出發，而且因為國民黨必然利用此時間加強其沿江軍事準備，故我們亦應利用此時間更充分地進行軍事準備；如果放鬆了自己的戰鬥準備，那不僅是錯誤的，而且是危險的；在延長渡江的時間內，中心工作仍應放在加強戰鬥準備上。
遵照中央軍委和總前委的指示，第二、第三野戰軍前委和各兵團黨委相繼下發了渡江作戰的政治工作指示，對部隊的思想教育進行了具體部署。在教育中，各部隊採取上課，開民主討論會，個別談心等方式，將中央軍委和總前委的決心意圖傳達到每一個幹部戰士，明確告訴大家，如果能用和平的方式渡江，解放江南人民，對於中國共產黨和人民解放軍都是有利的，可以減少犧牲和損失，我們對此應該歡迎，要有必要的準備。但是，我們不能對和談抱有任何幻想，蔣介石國民黨統治集團的階級本質決定他們決不會甘心自己的失敗，他們必然會利用長江天險阻止人民解放軍渡江。人民解放軍渡江後國民黨也不會就此承認失敗而停止抵抗，必然會作垂死掙扎，解放軍還會遇到嚴重的戰鬥。全體指戰員的立足點應放在這一點上，任何時候都要保持高度的戰鬥意志和充分的戰鬥準備，反對任何輕敵的僥倖心理，必須作最嚴重最困難的打算與努力。一切準備工作都要圍繞「打過去」進行，有了「打過去」的充分準備，才能應付各種複雜的局面和困難，勝利完成渡江作戰的任務。耐心細緻的政治思想工作，使廣大指戰員在渡江作戰發起前，始終保持了高昂的戰鬥意志，消除和克服了和平麻痹思想和僥倖心理，保證了戰役各項準備工作的順利進行；又為渡江作戰發起後，以頑強的戰鬥精神，克服重重困難，連續作戰，一鼓作氣地完成戰役預定的任務打下了思想基礎。
第二，普遍向指戰員介紹長江情況，國民黨軍的布防情況，以及解放軍的部署、作戰規模、打法和有關的作戰經驗，提高幹部戰士奪取渡江作戰的信心。針對部隊中大部分幹部戰士是北方人，不懂水情，不習水性，不了解長江，不了解江南，對渡江和到南方作戰存有恐懼心理的情況，各部隊請多年在長江中航行、捕魚的老船工、老漁民介紹長江水情，組織幹部戰士到長江邊去「看水」，到人民群眾中去「訪水」；請江南籍幹部戰士介紹江南