二野、三野發起渡江戰役的同時，四野先遣兵團在肖勁光率領下已進抵武漢外圍，有力地牽制了白崇禧集團。
肖勁光兵團12萬人於1949年2月25日自平津地區南下，拉開了四野征戰中南六省的序幕。
三大戰役之後，國民黨軍的精銳主力喪失殆盡，剩下的軍隊雖有百萬之眾，但除白崇禧部之外戰鬥力均不算強。打過長江、解放南京，對於劉鄧、陳粟兩支大軍來說不在話下，唯有武漢地區的白崇禧部將主力擺在信陽、駐馬店、確山一帶，對劉鄧大軍右側翼構成了重大威脅。如果劉鄧大軍渡江南下，其力量薄弱的右側背就可能受到白崇禧的襲擊。於是，劉鄧在部署渡江戰役的同時，致電中央軍委，要求四野提前南下，拖住白崇禧，以解除劉鄧大軍渡江作戰的後顧之憂。
四野先遣兵團南下的主要困難在於內部的思想問題。這支部隊連續經過了遼瀋、平津兩大戰役，十分疲憊。遼瀋戰役一結束，他們就千里奔襲，秘密入關，那時的思想工作就很難做。東北籍的士兵以保衛家裡分得的田地為動力，在東北與敵浴血奮戰，一旦東北全境解放，他們的思想就發生了變化。「為自己的利益而戰」這是最直接的工作方法，都能理解；而「為整個階級的利益而戰」就抽象多了，有些戰士將其理解為「為別人流血犧牲」。平津戰役之後，整個野戰軍自上而下都在開展思想整頓工作。先遣兵團提前南下，只好邊走邊整。
離東北越來越遠，許多從未出過遠門的關東大漢在越來越陌生的環境中惶恐了。土地的顏色由東北的黑土變成了華北的黃土，再變成了南方的紅土；風土人情更是千差萬別，老百姓的口音也越來越難以聽懂。
參加平津戰役，他們一個晚上可以走一二百里路，現在白天行軍卻只能走幾十里。這下急壞了劉伯承。
長江眼看就臨近汛期，江水一漲，渡江就困難了，而渡江發起的時間，必須以四野先遣兵團進抵武漢外圍而定。
劉伯承數電中央對肖勁光兵團的進程表示嚴重關切。中央軍委決定由劉鄧直接指揮蕭兵團。
3月19日，劉、鄧致電軍委並蕭兵團：
第四野戰軍兩個軍目下行程較預定時間為遲。在此情況下，我們考慮，四野十二兵團如仍以一個師出平漢路東側，而以主力繞經棗陽、隨縣地區拉住桂系以掩護渡江軍右側背，這在時間與空間上都趕不及。為此，建議十二兵團應改以主力或一個軍出西側，如能運用鄭南鐵路輸送一部兵力則較快。另以王宏坤指揮之桐柏、江漢部隊先期以四野面目出現，以迷惑吸引白崇禧部為有利。
肖勁光兵團沿平漢線南下，碰到了兩顆硬釘子：一個是安陽；另一個是新鄉。這兩個地方的國民黨軍雖然兵力不多，戰力也不強，但卻有非常堅強的防禦工事。
先頭部隊最初不知底細，以為這兩個城能輕易拿下，一打才知碰了釘子。劉、鄧催得急，肖勁光不便與敵糾纏，只好下令繞道南下，將難題留給了後面的四野主力。
肖勁光兵團12萬人南下的行動驚動了白崇禧。此時，白崇禧還在通過劉仲容等在北平與中共秘密和談，幻想劃江而治，他當然不願在這個時候與解放軍發生正面衝突。於是，令信陽、駐馬店、確山等地守軍南撤。
蕭兵團順利佔領信陽、駐馬店、確山、明港、長台關等據點，僅殲敵700餘人。
4月上旬，張治中率南京代表團在北平正式與中共和談期間，蕭兵團已進入湖北境內，並連續佔領花園、漢川、應山、廣水、浠水等地。白崇禧意識到不能再退了，否則武漢就保不住了。他令部下加緊備戰的同時，打電話給李宗仁，要求國內和平談判代表對中共提出：「和談期間雙方停止軍事行動。」
周恩來拒絕了張治中提出的要求。白崇禧為了自保，只得進一步收縮兵力，將贛北的第3兵團調回武漢地區設防。
這樣一來，劉鄧大軍右側翼受到的威脅就全部解除了。
鑒於肖勁光兵團已完成了牽制白崇禧的任務，林彪令肖勁光停止前進，部隊轉入休整，並籌集幾十萬兵馬食用的糧草，為四野主力南下創造條件。
先遣兵團南下不久，四野在北平召開了為期八天的高級幹部會議，這是全面思想整頓和南下動員工作中的一項重要內容。會議是在朝陽門內的「九爺府」召開的，林彪、羅榮桓、譚政、陶鑄和劉亞樓先後在會上作了重要報告。
林、羅、譚三人的報告重在整頓內部的思想問題，並舉例批評了一些單位和幹部存在的錯誤和缺點。這次高幹會議為大軍南下在思想上、組織上做了充分準備，極大地鼓舞了廣大幹部的戰鬥熱情。
然而，事情總有美中不足的地方，過分的批評也會傷害幹部的自尊心，導致事情走向反面。
林彪的報告以《論團結》為題，目的是為了增強部隊的凝聚力。毫無疑問，這次會議以及林彪的報告達到了預期目的。但是，並非盡善盡美。
陳光問題就是典型的一例。
自從1947年1月，陳光離開第6縱隊，就再也沒有機會指揮作戰。他在哈爾濱養好病之後，被任命為松遼軍區司令員兼哈爾濱衛戍司令員。
在南下動員會議之前，他被任命為四野司令部副參謀長。這一職務安排對他這位紅軍時期就聲名大噪的「名將」來說，的確有些委屈。
恰在陳光心裡並不愉快的時候，林彪在高幹會上公開點名批評陳光「居功驕傲」。林彪本來只是舉例說明要防止「勝仗打多了，容易驕傲自滿」而產生輕敵情緒，卻忽視了陳光的性格，不甚恰當地把他「拉出來示眾」。這對陳光的打擊何等之大可想而知。
陳光就這樣背著沉重的思想包袱踏上了南下的征程。
1950年元旦，陳光離開四野司令部，自武漢南下赴廣州任新職。新的職務到底是什麼至今仍存有爭議。《中國軍事百科全書》「陳光」詞條載：「先後任第四野戰軍副參謀長、廣東軍區司令員兼廣州警備區司令員。」而《解放軍將領傳》和《第四野戰軍戰史》則認為他的新職是「廣東軍區副司令員兼廣州警備區司令員」。他到底在廣東軍區任的是正職還是副職呢？據說中央軍委最初任命他為廣東軍區司令員，命令到四野不久，軍委又來了一份新的命令，將其改任廣東軍區副司令員兼廣州警備區司令員。他到廣州後，「出現了一些比較嚴重的錯誤」，組織上派人找他談話，他對誇大事實的指責非常憤怒，產生了對抗情緒。1950年5月1日，他在日記中寫道：「我對林恨透了！」
高幹會議期間，毛澤東親自接見了參加會議的四野全體幹部。那是3月31日，林彪、羅榮桓率師以上將領乘車來到香山。中央五大書記毛、劉、周、朱、任全部參加了這一具有歷史意義的重要活動。
毛澤東面對四野的幾百名戰將，揮舞巨人般的大手親自作南下的戰鬥動員：「在兩年半的解放戰爭過程中，我們消滅了國民黨反動派的主要軍事力量和一切精銳師團。國民黨反動統治機構即將土崩瓦解，歸於消滅了。我們三路大軍浩浩蕩蕩就要下江南了，聲勢大得很，氣魄大得很啦！同志們，下江南去！我們一定要贏得全國的勝利！」
高幹會議結束後，四野統帥機構作了一些重大的人事調整。一直以重病之軀堅持工作的羅榮桓政委在視察天津時再次病倒了，中央鑒於他無法隨軍南下，任命鄧子恢為四野第二政委，在羅榮桓不在的情況下負責政治工作。
羅榮桓雖然名義上是四野第一政委，但是四野的工作主要是林彪和鄧子恢負責。
天津戰役後，劉亞樓提出希望帶兵打仗的要求。林彪和羅榮桓商量後，任命他為第14兵團司令員。經林彪提議，蕭克出任四野參謀長。
蕭克在江西蘇區時與林彪共過事，後來從林彪的麾下分出去，成為新組建的第六軍團軍團長，資歷比劉亞樓更老。
1949年春夏之交，第四野戰軍進行了新的整編，轄4個兵團13個軍，序列如下：
第四野戰軍（司令員林彪，政委羅榮桓、鄧子恢，參謀長蕭克，政治部主任譚政，後勤部部長周純全、李聚奎，副參謀長聶鶴亭、陳光，政治部副主任陶鑄，後勤部政委陳沂）直屬部隊：
特種兵司令部（司令員萬毅、政委鍾赤兵）轄炮兵第1、第2師，戰車師，高炮指揮所，工兵指揮所，輜重團，朱瑞炮兵學校。
兩廣縱隊（司令員曾生、政委雷經天）轄第1、第2師；
第50軍（軍長曾澤生、政委徐文烈）轄第148、第149、第150、第167師。
第12兵團（司令員兼政委肖勁光，副司令員陳伯鈞、韓先楚，副政委兼政治部主任唐天際，參謀長解方）：
第40軍（軍長羅舜初、政委卓雄）轄第118、第119、第120、第153師；
第45軍（軍長陳伯鈞、政委邱會作）轄第133、第134、第135、第158師；
第46軍（軍長