9月11日，中共中央電示西線兵團：「在黃河、淮河、運河、平漢之間創造鞏固根據地，協助劉鄧、陳謝創造鄂豫皖與鄂豫陝兩大根據地，協助饒黎譚保衛山東根據地，協助蘇中、蘇北恢複根據地。」並指出，「你們處在上述四大根據地之中間地帶，你們的勝利有重大的戰略意義。」為適應鬥爭形勢的需要，陳毅、粟裕決定，由第十縱隊司令員宋時輪、副政治委員劉培善指揮第十縱隊和晉冀魯豫野戰軍第十一縱隊，留在魯西南牽制國民黨軍，掩護西線兵團主力南下；以第一、第三、第四、第六、第八縱隊和剛由豫北南渡黃河、準備轉戰於大別山的晉冀魯豫野戰軍第十二縱隊挺進豫皖蘇邊區，與劉鄧野戰軍、陳謝集團共同開闢中原解放區。
豫皖蘇邊區指的是隴海路以南、淮河以北、運河以西、平漢路以東地區，面積約6萬平方公里，人口約2000萬。全面內戰爆發後，該地區被國民黨軍侵佔。共產黨領導的地方武裝仍在堅持鬥爭，建立了三個專署的政權和隸屬晉冀魯豫軍區的豫皖蘇軍區，已有2.5萬人的武裝力量，但大部分地區仍處在國民黨的反動統治之下。西線兵團挺進豫皖蘇的任務是，不斷殲滅國民黨軍的有生力量，縮小國民黨統治區，擴建新解放區，向南與劉鄧野戰軍聯繫，向西與陳謝集團聯繫，使中原的幾塊解放區連成一片。
9月26日晚，天剛擦黑，陳毅、粟裕率第三、第四、第六縱隊經碭山、馬牧集段南越隴海路，陳士榘率第二、第八縱隊及晉冀魯豫野戰軍第十二縱隊經民權兩側越隴海路。
毛澤東、周恩來、朱德等得知華野外線兵團順利進入豫皖蘇地區，非常欣慰，於10月3日致電陳毅、粟裕：
你們兵力業已展開於廣大地區，現應確定一個月至兩個月內，只打小仗，不打大仗。各縱應劃定地境，每縱幾個縣，殲滅境內小股敵軍、民團、土匪、保甲，建立政權，實行土改。每縣撥出一個營的架子（幹部）及一個連的兵力，建立各縣武裝基幹。各縱主力則在自己轄境內，往來機動作戰，包括破擊鐵路在內。
電報還指示，華野五個縱隊的活動範圍不應限於豫皖蘇地區，可以一部渡淮河南進，到安徽壽縣、合肥、巢縣以東，長江以北地區，以便與劉鄧大軍活動區域及蘇中、蘇北完全銜接。要讓敵主力置於無用武之地，疲於奔命，而我則於短期內殲滅敵之爪牙，建立根據地。電報最後指出：「此種工作看似不甚重要，實則具有偉大戰略意義。」
此時，一縱司令員兼政委葉飛率領一縱已挺進150多公里，轉戰於河南內黃、杞縣、韓崗、鄢陵、尉氏、逍遙鎮等地，解放三座縣城及許多要地，殲敵數千人。隨後，一縱吸引敵十一師北上，趁勢於10月4日分三路越黃泛區，一舉攻佔西華縣城。
何以祥司令員、丁秋生政委率領三縱轉戰於安徽黃口、夾溝、符離集、濉溪口、宿縣諸地，隨後向津浦路以東進擊，先後攻佔靈璧、泗州、大李集諸地。
陶勇司令員、王集成政委率領四縱轉戰河南夏邑、永城及安徽渦陽、蒙城等縣，肅清敵地方武裝，摧毀反動政權，解放了大片土地。
王必成司令員、江渭清政委率領六縱越過隴海線連克亳縣、界首、沈丘、臨泉、新蔡、項城、渦陽、太和、阜陽、潁上、蒙城等地，殲敵1700餘人。
王建安司令員兼政委率領八縱，協同一縱進佔河南鄢陵、扶溝等地，隨後分路進攻通許縣城，敵河南保安一團很快被殲滅。
周口位於沙河中游，控制著沙河南北交通，是豫東的重要城鎮。守衛該鎮的是敵河南保安三團、四團及自衛隊一部，國民黨第六綏靖區指揮部參謀長馬吉遠親臨此地。八縱機關及二十二師、二十三師和二十四師，經三天長途行軍，於10月21日進抵周口。24日凌晨，八縱對敵發起強攻。
主攻四個團在鎮內迅速將敵分割、圍殲。戰至7時，守敵1200餘人全部被殲，馬吉遠和敵河南自衛隊參謀長王士元、副參謀長馬書元、保安三團團長曹振幫、四團團長羅本先等均被俘。隨後，八縱趁勢北上，攻下陳留城。
西線兵團經過一個月作戰，至10月底，殲滅國民黨地方武裝約萬人，攻克杞縣、睢縣、亳縣、永城、通許、渦陽、蒙城、項城、鄢陵及津浦路東之靈璧、泗縣等縣城，基本上摧毀了國民黨在該地區的反動政權，佔領了東西千餘里、南北百餘里的廣大地區，擴大了豫皖蘇解放區。至11月初，我軍已建立了25個民主縣政府，在沙河以南、淮河以北地區新建了3個軍分區和專員公署，人民武裝力量迅速發展。11月底，西線兵團完成在豫皖蘇邊區的戰略展開。晉冀魯豫野戰軍第十二縱隊護送新兵團進入大別山，隸屬劉鄧野戰軍指揮。
1947年9月22日，中共中央決定，陳、粟西兵團歸晉冀魯豫中央局領導。除現轄之第一、第三、第四、第六、第八、第十縱隊外，王秉璋縱隊（即中野第十一縱隊）也劃歸陳、粟所轄。
陳、粟、張（雲逸）、鄧（子恢）為晉冀魯豫中央局委員，鄧小平仍為中原局書記兼晉冀魯豫中央局書記，薄一波為晉冀魯豫中央局第一副書記並代理書記，陳毅為該局第二副書記。陳、粟代表該局指導黃河以南、運河以西、平漢以東、淮河以北之黨政軍民工作，以利直接支援前線；張、鄧代表該局指導渤海地區工作（渤海暫時劃歸晉冀魯豫領導）。
晉冀魯豫中央局負責統籌劉鄧、陳粟兩野戰軍及陳謝兵團的後勤供給。目前，除供應劉鄧、陳謝兩軍外，應將供應陳粟野戰軍工作放在緊要地位。
華東野戰軍東線兵團由許（世友）、譚（震林）指揮，受華東局直接領導，轄第二、七、九、十三縱隊。
11月8日，陳毅離開華野司令部去邯鄲，和薄一波等商討華野大軍供應的事。粟裕依依不捨地送別了陳毅，頓感肩頭的擔子更重了。
自從陳粟挺進豫皖蘇邊區後，三支大軍已把中原地區由國民党進攻解放區的重要後方變成了人民解放軍實施戰略進攻的前線。國民黨為了爭奪中原，解除其長江沿線及江南所受的威脅，一面加強長江和中原各鐵路、各重要城鎮的防禦，一面以位於九江的白崇禧集團、位於徐州的顧祝同集團主力及位於西安的胡宗南集團一部兵力，對中原地區的人民解放軍實施戰役性進攻，企圖達到「以攻為守」的目的。
為了破壞國民黨軍依託鐵路迅速轉派兵力的有利條件，迫使國民黨軍守護鐵路沿線要點，以便豫皖蘇邊區工作的開展，粟裕決定以七個縱隊的兵力，在隴海路蘭封至郝寨段進行破擊戰。
初冬時節，寒風凜冽，鐵路沿線火光衝天，人們肩扛鍬撬，把幾百米長的鐵軌連同枕木，像柵欄似的翻向一邊。11月8日開始，一縱三師破壞了碭山至黃口段40餘公里的鐵路。一師、二師經過3小時激戰，全殲碭山守敵，俘敵七旅旅長及以下4000餘人，並繳獲大批物資。11日，各師又分別由碭山、黃口地區出發，向東掃除了陳砦等據點的敵人，一舉奪取蕭縣。
四縱十師徹底破壞了碭山至馬牧集段40餘公里鐵路，炸毀橋樑11座，擊毀火車1列。十二師集中兵力攻擊劉堤車站。十一師截殲由小楊集車站西逃之敵一部，並迅速攻克虞城，全殲守敵1000餘人。
十縱二十八師攻擊馬牧集及馬牧、張閣兩個車站的守敵，俘敵正、副團長及以下1000餘人。二十九師迅速殲潘口、劉口、丁鎮集一帶土頑敵軍後，配合兄弟縱隊控制徐（州）商（丘）段鐵路，切斷了蔣軍東西交通命脈。
八縱攻佔柳河集、民權和李壩集車站後，與當地民工一起，對柳河至蘭封50餘公里長的鐵路段進行完全破壞。
六縱及三縱一部，在陳士榘參謀長率領下，破壞鐵路50餘公里。
十六師在商丘以東之主仲橋、蔡道口擊退東援之敵整編五師一部，殲敵數百人，迫其退回商丘。
11月15日，西線兵團第一、第三、第四縱隊和晉冀魯豫野戰軍第十一縱隊，破擊津浦路徐（州）蚌（埠）段。第一縱隊攻佔徐州以南10公里的三堡車站，迫近徐州南部。晉冀魯豫野戰軍第十一縱隊進至徐州西北的九里山附近。第三、第四縱隊由向宿縣南北的鐵路線破擊。但因國民黨軍抽調15個旅（其中包括準備用於大別山的8個旅）兵力由西、北、南三面向徐州集結，西線兵團決定於17日結束戰役，一部分主力進入魯西南，一部分南下豫皖蘇，一面休整進行訴苦教育，一面做群眾工作。
11月下旬，國民黨成立國防部九江指揮部，由國防部部長白崇禧兼指揮部主任，集中33個旅的優勢兵力，於11月27日開始對大別山區實施全面圍攻。同時，還以22個旅守備隴海路徐州、洛陽段及平漢路鄭州、漯河段各要點；國民黨陸軍總司令部徐州司令部以整編第五軍等11個機動旅在黃河、淮河間與華野西線兵團糾纏；國民黨西安綏靖公署以第五兵團5個機動旅在豫西鉗制陳謝集團。敵方企圖首先壓迫劉鄧野戰軍撤出大別山區，然後轉