正當蔣介石在瀋陽、北京、徐州、南京之間疲於奔命，南京國民黨軍對徐蚌會戰還在爭論不休之間，華東野戰軍便發起了圍殲黃伯韜的攻勢。
圍繞殲滅黃伯韜兵團，毛澤東曾與粟裕反覆商討，10月22日毛澤東批准粟裕制定的殲滅黃伯韜兵團的作戰部署後，粟裕於10月23日發出了淮海戰役預備命令：
（一）集中一縱、四縱、六縱、八縱、九縱、中野十一縱、魯中南縱隊及蘇北兵團二縱、十一縱、十二縱共10個縱隊和特種兵縱隊，圍殲以新安鎮為中心的黃伯韜兵團。
四縱、八縱附1個野炮營，統歸四縱司令員陶勇、政治委員郭化若指揮，首先襲殲官湖之敵，而後迅速由東北向西南分割圍殲運河車站及炮車地區守敵，以割裂李彌、黃伯韜兩兵團聯繫。得手後，即沿運河、沂河兩岸地區部署阻援，保證主力圍殲黃伯韜兵團。
十一縱適機沿宿遷至運河車站段的運河兩岸，由南向北協同四縱、八縱攻殲運河車站守敵，並配合四縱、八縱阻援。
一縱、六縱、九縱、魯中南縱隊及特縱主力，由野司直接指揮，首先擔任圍殲新安鎮、瓦窯之敵，得手後轉兵東向。
第六縱隊附特縱兩個野炮連，經馬頭東西地區開進，首殲瓦窯、程家集、馬圩及其附近地區之敵，而後即沿鐵路兩側由西南向東協同魯中南縱、九縱聚殲新安鎮地區之敵。
一縱附特縱兩個榴彈炮連、1個野炮連，於戰鬥開始時，首先尾隨六縱、魯中南縱隊之後進至郯城、馬頭以南，紅花埠、楊家集以北之間地區集結待命。
九縱沿沭河以東、桃林以西南下，先以一部奪取控制新安鎮東北高地，其主力直插新安鎮、高潭溝之間地區，分割包圍該區之敵，而後逐次分批殲滅。
魯中南縱隊，首先以主力一部配合魯中南基幹團於7日晚圍殲郯城山東保安第一旅，主力沿沭河西岸地區開進，相機殲滅新安鎮外圍地區之敵，而後協同一縱、六縱、九縱聚殲新安鎮之敵。
特種兵縱隊榴彈炮團及坦克全部，於戰役開始集結朱陳地區待命。
二縱、十二縱（欠第三十四旅）、中野十一縱附特縱1個榴彈炮連、4個野炮連，統歸蘇北兵團司令員韋國清、副政治委員吉洛（姬鵬飛）指揮，經赤岸鎮以東開進，首先擔任分割包圍阿湖、高潭溝地區之敵並迅速壓縮包圍，力求首先殲其一部，而後視情況集中主力分批逐次各個殲滅，戰鬥發起的第一天，二縱暫不使用，於完成包圍後使用於主要突擊方向。
（二）為使主力有充裕時間圍殲黃伯韜兵團，決定七、十、十三縱隊，統歸山東兵團政治委員譚震林、副司令員王建安直接指揮，由臨城、棗莊線向韓庄、台兒庄、運河沿線、賈汪地區，以攻勢牽制、迷惑馮治安部，形成圍攻徐州態勢，造成劉峙錯覺，吸引邱清泉、李彌兵團北援或停滯於徐州附近，不敢放膽東援。
十縱沿臨城、沙溝南下，首殲韓庄守敵，搶佔運河橋渡河南下，沿津浦路及東側地區向利國驛、柳泉鎮擴張攻勢，並協同七縱向賈汪地區之敵攻擊。
七縱由臨城、棗莊之間，首先襲佔万年閘大橋，另以一部於主力行動前切斷棗（庄）、嶧（縣）之敵退路，掩護主力由萬年閘及其東西地區渡運河直撲賈汪，求殲馮治安總部，迫使馮起義，該縱歸十縱司令員宋時輪、政治委員劉培善統一指揮。
十三縱擔任圍殲台兒庄之敵，主力由台兒庄以西至萬年閘渡運河直撲汴塘、宿羊山，切斷台兒庄及以南運河沿線之敵退路，得手後以一部迫近包圍碾庄圩、曹八集段之敵，主力向東，準備協同四縱、八縱阻殲可能由徐州東援兵團。
命令要求各部組織精幹偵察部隊迫近作戰地區，確實查明當面之敵的兵力分布、陣地構成等情況，嚴密監視其行動變化，如發現守敵收縮集結徵候應不失時機地展開挺進截擊各個殲滅，或就地分割包圍勿使其收縮集結，各部隊於11月6日黃昏由現地開進，8日晚統一發起戰鬥。
預備命令發出後，華野全軍便開始了緊張的準備工作。然而毛澤東並沒有因已經批准了粟裕等提出了令自己滿意的方案後而放下心來，他的眼光仍盯在徐州戰場上。
10月26日凌晨3時，毛澤東致電粟裕、譚震林，並告陳毅、鄧小平，及劉伯承、鄧子恢和李先念，提出了「鉗制邱清泉李彌兩兵團分割殲滅黃伯韜兵團」的具體部署：「一○○軍兩個師均已增至新安鎮並隸屬七兵團，黃伯韜手裡已有8個師，李彌5個師已集結運河車站及運西李家集地區，黃、李共13個師連接在一起。你們原企圖以兩個縱隊殲滅運河車站之兩個師，控制運河正面阻敵，恐將感覺困難。你們似只能從黃、李兩集團的接合部，即新安鎮與運河車站之間，以兩個縱隊插入隔斷李、黃聯繫，而以一個至兩個縱隊由台兒庄向南從北面鉗制李彌，另以一個至兩個縱隊攻殲韓庄、賈汪、柳泉地區之敵，迫使邱兵團以一個至兩個軍向正北防禦，再以1個縱隊及廣縱向豐縣碭山兩點攻擊，迫使邱清泉一部留於該方，另以地方兵團牽制孫元良，另以韋吉一個至兩個縱隊從睢宿向徐州東南攻擊，如此方能確保鉗制邱、李，以利主力分割殲滅黃兵團。關於應當使用強力部隊，而不應當使用第二等部隊於主攻方面，前已電告，如此須有幾天時間重新調整部署。為了確保勝利，寧可推遲幾天發起戰鬥，不要倉猝從事。」（《毛澤東軍事文集》第5卷，第131頁）
27日，毛澤東又電告饒漱石、粟裕和譚震林，制定淮海戰役的部署要估計到情況的變化。電報說：「你們在研究部署時，除根據當前情況外，還要估計到情況的某些可能的變化，要設想敵可能變化的幾種情況，其中應包括一種較嚴重的情況，要準備在這種情況下有對付的辦法。」（《毛澤東軍事文集》第5卷，第134頁）
毛澤東提出，目前情況可能變化的是：
黃伯韜兵團8個師在我軍接近時，可能由現時比較分散配置利於分割圍殲的狀態，改變為比較收縮比較靠攏難於分割圍殲的狀態。
黃伯韜兵團8個師在被我軍圍殲時，有幾個師被殲滅，但可能有幾個師因集結在一起，難於最後殲滅。
李彌兵團兩個軍靠在一起，可能使我軍無法控制運河，如我軍從台兒庄向宿羊山方向之部隊動作不得力，則李彌兵團兩個軍可能全部加入運河車站及其以東，與黃伯韜兵團靠得很近，可能妨礙我軍全殲黃伯韜兵團。
如果我軍從臨城向韓庄、賈汪、柳泉攻擊之部隊不得力，或動作不適當，不能吸引邱清泉兵團一個軍左右去對付該方面；又如果我軍派向豐縣、碭山方向攻擊之部隊動作不積極，不能吸引邱清泉兵團一部留在該處，則邱清泉兵團可能以1個軍或超過1個軍的兵力進至大許家、八義集、碾庄之線，聯接李彌兵團，使李彌兵團能夠積極增援黃伯韜兵團。
陳毅、鄧小平率中野11個旅11月4日進至渦陽、永城、亳州3縣中間地區，爭取打孫元良兵團，並威脅徐蚌線，對於華野我軍作戰當然會起很大的配合作用，可能吸引邱清泉兵團1個軍及孫元良兵團全部去對付他們。但華野我軍的計畫應放在華野自己直接有效地鉗制邱清泉上面，才是最可靠的，因敵軍處內線，調動靈便，而陳毅、鄧小平所率之中原主力對劉峙集團不能起致命的作用。
我軍取得濟南戰役勝利後，幹部中可能發生輕敵心理，如果不克服此種心理，則可能影響此次作戰。
在毛澤東的指導下，粟裕根據當面國民黨軍隊的情況，並考慮戰鬥發起後可能變化的情況，對原定的作戰部署作了必要的調整，形成圍殲黃伯韜兵團的最後計畫，並於10月28日電報毛澤東。電報說：
本日與譚震林、王建安共同研究，估計我各路發起攻擊後，蔣軍可能依現態勢固守，以達成於外圍消耗我軍保衛徐州之目的。其次，則將李、黃兵團集結固守幾點，互相聲援策應。如發現我主力出擊新海段，黃兵團集結固守新安鎮為核心，李彌以運河、碾庄線守備，機動甚大，因此在部署上擬不作更大變動，建議如下：
（一）以三縱、廣縱及冀獨一、三旅出擊魚台（可能逃跑），攻佔豐縣、敬安鎮，前鋒迫近徐州西北郊，另以一部佯攻碭山，鉗制邱兵團一部。以七、十縱隊攻佔臨城、韓庄、賈汪，控制利國驛後，迫近徐州東北。以十三縱一部包圍台兒庄，其主力控制於宿羊山及其以南，並以有力一部進迫曹八集線，威脅李彌之左側背。如七、十縱得手後，即以七縱擔任從賈汪鉗制，迫近徐州，正面阻敵；十縱則東移，協同十三縱對運（河）西李彌部之作戰。另以華中十一縱（胡炳雲縱）沿運河西岸貓兒窠向運河站（河西）、趙墩線攻擊。江淮軍區兩個旅向趙墩、碾庄線攻擊，造成我南北聚殲李兵團，攻略徐州之姿態，以便我運（河）東作戰。以上各部均於7日晚發起戰鬥。
（二）運東作戰以殲滅黃伯韜兵團為主。戰鬥第一步必須開闢戰場，布置阻援陣地，分割敵人，使其不能集結，或靠近