濟南攻克，粟裕提議進行淮海戰役。毛澤東神機妙算，黃伯韜欲哭無淚：「將帥無才，累死三軍。」增援部隊反求援，黃維被圍雙堆集。淮海戰役正酣，白崇禧忙上加忙。一個被傳統禮教與戰爭洪流雕塑出來的人，杜聿明長嘆：「末日到了。」夾生飯「吃得正香，毛澤東西柏坡緊急叫停。」
1948年9月24日，經過8天血戰，粟裕指揮華東野戰軍攻克了國民黨堅固設防的濟南城，全殲守敵14.4萬餘人，生擒國民貪第二綏靖區中將司令兼山東保安司令王耀武及副司令牟中珩、國民黨山東省黨部主任委員龐鏡塘等，同時攻克長清、齊河、歷城三座縣城。
大勝之後，粟裕的臉上卻看不出多少勝利後的喜悅。仗越打，他的胃口越大。這時，他又把一份求戰的電報發給了中共中央軍委主席毛澤東：「我們下一步行動，擬作以下建議：立即進行淮海戰役。這戰役可分為兩個階段，第一階段以蘇北兵團加強一個縱隊攻佔兩淮。戰至第二個階段，以3個縱隊攻佔海州、連雲港。結束淮海戰役後，全軍再轉入休整。」
誰也設想到，這封電報竟成了後來震驚中外的淮海戰役的第一份建議書和請戰表。
圍繞這個建議，粟裕提出了三個方案供中央軍委參考。
第一個方案是，舉行淮海戰役，第一階段，乘兩淮敵人兵力空虛，由蘇北兵團司令員韋國清、副政治委員吉洛（姬鵬飛）指揮所部，攻佔淮陰、淮安、高郵、寶應，野戰軍主力位於宿遷至運河車站線，準備殲擊由徐州方面來援之敵。第二階段，用3個縱隊攻佔海州、連雲港，結束戰役。爾後華車野戰軍全軍轉入休整。
第二個方案是，只進行海州作戰，僅以攻佔海州、新浦、連雲港等地為目標，並以主力控制於新安鎮、運河車站南北及峰縣、棗莊線，以備戰姿態進行休整。此案對部隊休整有利，但亦增加今後攻佔兩淮的困難（敵人可能增兵）。
第三個方案是，全力向南求殲由徐州增援濟南之敵一部，但濟南攻克，敵人加強警惕，可能退縮，恐不易求戰。
在粟裕給毛澤東發去電報的第二天，即9月25日，中原野戰軍司令員劉伯承、副司令員陳毅（仍兼華東野戰軍司令員、政治委員）、參謀長李達，致電中央軍委並粟裕：「濟南攻克後，我們同意乘勝進行淮海戰役，以第一個方案攻兩淮，並吸打援敵為最好。」
毛澤東立即與朱德、周恩來等人在幾乎佔了一面牆的軍用地圖上，研究敵人的兵力情況。
蔣介石此時為確保對津浦路、隴海路、平漢路的控制，阻止華野與中原兩軍會合，將部隊沿隴海路、平漢路、津浦路部署：
孫元良十六兵團的兩個軍駐鄭州。
邱清泉二兵團5個軍駐商丘。
劉汝明八兵團兩個軍駐開封。
黃維十二兵團4個軍駐確山。
馮治安第二綏靖區4個軍駐徐州。
李彌十三兵團3個軍駐碾庄。
黃伯韜七兵團5個軍駐新安鎮。
李延年六兵團4個軍駐海州。
蔣介石以徐州為中心，沿津浦、隴海線部署了兩條長蛇陣。
對敵人的部署，毛澤東敏銳地意識到，這是極利於各個擊破的陣形。尤其是東段，兵力薄弱，又均非蔣介石嫡系，粟裕建議從這裡開刀，眼光不凡，確是大將風度。
毛澤東收到劉伯承等人電報的當日，立即致電饒漱石（華東軍區政委）、粟裕並告劉伯承、陳毅、李達：「我們認為，舉行淮海戰役甚為必要，目前不需要大休整，待淮海戰役後再進行一次大休整。」並提出這個戰役，應準備進行幾個作戰：
第一個作戰，估計不久邱清泉兵團將退回商丘、碭山地區，黃伯韜兵團回到新安鎮、運河車站地區，因此，應以殲滅黃伯韜兵團為目標。
第二個作戰，殲滅淮陰、淮安、高郵、寶應地區之敵。
第三個作戰，殲滅海州、連雲港、灌雲地區之敵。
毛澤東認為，「進行這三個作戰是一個大戰役。打得好，你們可以殲滅敵人十幾個旅，可以打通山東與蘇北的聯繫，可以迫使敵人分散一部兵力去保衛長江，而利於你們下一步進行徐州、浦口線上之作戰。」
果然不出毛澤東之所料，黃伯韜於9月27日命令所轄各整編師返回新安鎮附近地區，李彌兵團由徐州以西退往徐州以東碾庄、曹八集地區，邱清泉兵團由成武、單縣回到商丘、碭山地區。因此，華東野戰軍要南進打兩淮，必須首先打掉黃伯韜兵團這隻攔路虎，而要殲滅黃伯韜兵團，又必須能夠攔住徐州東援之敵。根據這種情況，毛澤東又於9月28日電中明確指出：「淮海戰役第一個作戰，並且最主要的作戰，是箝制邱（清泉）、李（彌）兩兵團，殲滅黃（伯韜）兵團。」
11月11日，毛澤東又代表中央軍委給華東、中原野戰軍和華東局、中原局發出了「關於淮海戰役的作戰方針」的電報，就淮海戰役的具體部署，提出了極為重要的意見：
「本戰役第一階段的重心是集中兵力殲滅黃伯韜兵團，完成中間突破。」「為達到這一目的，應以6至7個縱隊分割殲滅黃伯韜所屬3個整編師，以8至10個縱隊，阻擊由徐州東援的邱清泉、李彌兵團。」
「第二階段以大約5個縱隊，攻殲海州、新浦、連雲港、灌雲地區之敵，並佔領各城，而以其餘兵力（主力）擔任箝制邱李兵團。
「第三階段，可設想兩淮方面，……亦須準備以5個縱隊左右的兵力去擔任攻擊，而以其餘主力擔任打援及箝制。」
同時，毛澤東命令中原野戰軍採取有力行動，箝制華中白崇禧集團，配合華東野戰軍作戰。同日（10月11日），毛澤東致電劉伯承、陳毅、鄧小平，指出，蔣介石已命令鄭州孫元良兵團3個師東進，「你們應速部署以攻擊鄭（州）、徐（州）線殲敵一部之方法，牽制孫無良，否則孫兵團加到徐州方面將極大妨礙華野的新的作戰。」
華野部隊遵照中央軍委的指示，經過一個多月的準備，制定了周密的作戰計畫，明確了戰役方針，各部隊從戰術、技術到後勤軍需等都做了充分的準備，廣大指戰員牢固樹立了南下打大仗、與敵人進行戰略決戰的思想，只等一聲令下，便開赴前線。
11月4日上午8時，華野司令部在曲阜發布了《淮海戰役攻擊命令》。
攻擊命令分析了徐州敵軍的態勢和企圖，指出中野各部為了配合華野作戰，己由陳毅、鄧小平率主力東進，並指揮華野三縱隊和兩個縱隊從西面和南面威迫徐州，以箝制和吸引徐州以西的敵人。攻擊命令明確規定了各部隊的戰鬥任務和目標、路線、戰鬥分界線以及注意事項等。攻擊命令規定全軍11月8日發起戰鬥。於11月5日隱蔽進入到魯甫鄒縣、膝縣、臨沂地區一線的開進出發位置。
這時，國民黨徐州「剿總」剛開過軍事會議，所屬各兵團正準備按照軍事會議的規定向徐州收縮靠攏，但尚未正式行動。黃伯韜兵團此時仍集結在新安鎮、阿湖、高湮溝一線。
11月6日，華野各路大軍以雷霆萬鈞之勢，挺進淮海地區，拉開了淮海戰役的序幕。
黃伯韜兵團按照原定計畫，開始西撤。
我軍的神速行動，一下子打亂了黃伯韜的如意算盤。在窯海急渡運河的敵六十三軍，一部剛渡過河去，就遭到我軍從蘇北北上部隊的痛殲。未及渡河的一五二師，又被我尾追部隊全殲於堰頭鎮地區。敵六十三軍軍長陳章，渡河時被打傷，掙扎到西安後，見走投無路，自殺身死。敵四十四軍由海州、連雲港西逃時，拖帶行政人員、逃亡地主等10萬之眾。
11月8日，當敵二十五軍淮備渡河時，運河鐵橋被堵得水泄不通。整個鐵橋完全處在我堵截、追擊部隊的大炮射程之內。炮彈在運河鐵橋周圍爆炸，二十五軍亂得像熱鍋上的螞蟻。待敵人拚死擠過橋時，被炸死，踩死和擠落水中淹死的已過一半。
敵一零零軍在我銳不可擋的攻勢下，害怕擔任掩護任務被我殲滅，8日便派其四十四師先行渡河。該師渡何後，又未執行到碾庄集中的命令，徑直逃向八義集，正碰上我北上部隊，又被包圍殲滅。當黃伯韜兵團逃到碾庄時，只剩下六十四軍和四十四軍兩個完整的軍。此時，我各路大軍紛紛追到，將他們團團包圍。黃伯韜西逃的計畫徹底被產，只得在碾庄地區負隅頑抗，寄希望於增援部隊前來解救。
10日，我軍以絕對優勢兵力，向黃伯韜守敵發起全面攻擊。至14日，我軍先後佔領了敵四十四軍和一零零軍的一些陣地，並予二十五軍和六十四軍以重大殺傷。
11月15日，我前線指揮部提出：「先打弱敵，後打強敵；攻其首腦，亂其部署。」並決定會攻碾庄。九縱隊是會攻碾庄的主攻部隊之一，縱隊首長決定，二十五師擔任主攻，由碾庄正南、西南攻擊，得手後直搗黃伯韜司令部。
隨著總攻信號升起，我軍的炮彈，如疾風暴雨一般，從碾庄外的