在重慶談判中，國共兩黨簽訂了《雙十協定》，蔣介石表面上同意了中共提出的堅決避免內戰及和平建國的方針，但是，他仍然頑固地拒絕承認人民軍隊和解放區民主政權的合法地位。
毛澤東從重慶回到延安後，在《關於重慶談判》的報告中指出：「已經達成的協議，還只是紙上的東西。紙上的東西並不等於現實的東西。」（《毛澤東選集》第4卷，第1156頁）「確立了《雙十協定》以後，我們的任務就是堅持這個協定，要國民黨兌現，繼續爭取和平。如果他們要打，就把他們徹底消滅。事情就是這樣，他來進攻，我們把他消滅，他就舒服了。」（《毛澤東選集》第4卷，第1159頁）
事態的發展正是這樣。《雙十協定》公布後，國民黨軍隊在美帝國主義援助下，不斷擴大進攻解放區的規模。他們除了將一部分軍隊利用美國飛機、軍艦運往北平、天津等地外，主力部隊則加緊從陸路推進，直接用於進攻解放區的總兵力已經增加到80萬。
蔣介石的戰略意圖是：割裂華北各個解放區，搶佔平津，奪取東北，以達到「剿除」中國共產黨和八路軍、新四軍的目的。
到10月中旬，國民黨第1戰區胡宗南部第3、第16兩個軍，經同蒲路、正太路進抵石家莊，後續部隊第1軍已經進到山西聞喜以南地區；第11戰區孫連仲部第30、第40軍和新8軍共4.5萬餘人，因孫連仲飛往北平，部隊則由副司令長官兼40軍軍長馬法五和副司令長官兼新8軍軍長高樹勛率領，從新鄉地區出發，沿平漢路北犯，後續部隊第32軍和偽軍孫殿英部（稱第4路軍）隨之跟進，再後，還有4個軍正準備由洛陽、開封等地向新鄉進發；沿津浦路北犯的國民黨先頭部隊1個軍，已經從徐州進抵濟南；沿平綏路向東進攻的傅作義部已迫近張家口。上述四路向華北進犯的國民黨軍隊，平漢線這一路是其中的主力。
為了粉碎國民黨軍隊沿平漢線的進攻，中共中央軍委指示晉冀魯豫軍區，在完成上黨戰役後，在西戰場，由陳賡率領太岳部隊，沿同蒲路作戰，截擊胡宗南的後續部隊。在東戰場，由劉伯承和鄧小平親臨指揮晉冀魯豫野戰軍主力部隊，在平漢路方面作戰。東、西兩個戰場，以東戰場為作戰的重點。
中共中央軍委和毛澤東於1945年10月12日和17日，先後致電劉伯承、鄧小平和晉冀魯豫中央局諸同志，作了重要指示：「山東、華中主力轉移至冀熱遼區及東北，至快還須一月；各部到達後，熟悉地形，初步完成準備，至快亦須兩月至三月。因此，我們阻礙和遲滯頑軍北進，是當前嚴重的戰略任務。」「在你們的領導之下打了一個勝利的上黨戰役，使得我軍有可能爭取下一次相等的或更大的勝利。在你們領導下的一切力量，除以太岳全力展開同蒲路的作戰以爭取應有勝利外，必須集中太行與冀魯豫全力，爭取平漢戰役的勝利。即將到來的新的平漢戰役，是為著反對國民黨主要力量的進攻，為著爭取和平局面的實現。這個戰役的勝負，關係全局，意義極為重大。」「務望鼓勵軍民，團結一致，不失時機，以上黨戰役的精神，爭取平漢戰役的勝利。」
與此同時，中共中央軍委還指出，在新鄉附近地區集結的國民黨軍隊，尚未暴露其部署上的弱點，依據當前情況來看，在安陽以南地區，似乎難以尋求大量殲滅敵軍的有利機會，因此，晉冀魯豫軍區部隊必須審慎、忍耐，以逸待勞，誘敵深入到安陽以北至沙河之間的地區，尋求機動，再予以各個殲滅。
為了與國民黨軍進行正規戰，10月7日，晉冀魯豫軍區決定整編部隊，將原來各根據地的主力部隊統一編成晉冀魯豫軍區的各野戰縱隊。建制如下：
以冀魯豫軍區主力為第1縱隊，司令員楊得志，政治委員蘇振華。
原冀南縱隊為第2縱隊，司令員陳再道，政治委員宋任窮。
原太行縱隊為第3縱隊，司令員陳錫聯，政治委員彭濤。
原太岳縱隊為第4縱隊，司令員陳賡，政治委員謝富治。
每縱隊轄3個旅，每個旅轄3個團。第2、第3、第4縱還以上黨戰役中繳獲的火炮組建炮兵部隊，各軍區也組建了若干支隊和獨立旅。