華東野戰軍利用坑道作業向黃百韜兵團步步進逼，將其層層剝皮的戰術十分成功，敵軍被我一口一口地吃掉，防區一天比一天小，供應一天比一天難。11月17日和18日兩天，四縱攻佔了敵人防區內除碾庄之外最重要的據點大芽庄和太平庄；六縱攻佔了前黃灘和後黃灘，殲滅了敵四十四軍軍部，四十四軍一五零師師長趙壁光率部投降；八縱和九縱則基本上掃清了碾庄外圍的據點，直逼碾庄。到18日晚，包圍圈中的第一零零軍和四十四軍已被我全部殲滅，被圍的黃百韜兵團其兵力實際上已被我軍消滅了一大半，還有戰鬥力的只剩下已經被打殘的二十五軍和六十四軍不足8個團，所守的據點僅存碾莊周圍的六七處。也就在18日這天，我軍活捉了敵四十四軍中將軍長王澤浚。
四十四軍原來並不是屬於黃百韜指揮的部隊，是川軍，抗日戰爭時擴編為第三十八集團軍出川抗戰，當時有兩個軍，共有24個團的兵力，由王瓚緒任集團軍總司令。由於川軍屬於雜牌部隊，從來不被蔣介石所重視，雖然在抗擊日寇的戰鬥中也打過一些好仗，但是部隊愈打愈少，兩個軍後來僅剩下了一個四十四軍。經過多次整編裁併之後，只剩下了兩個師6個團，由王瓚緒的兒子王澤浚任軍長。由於王瓚緒是川軍將領中全心全意投靠蔣介石的一個，和其他與蔣介石離心離德的川軍將領矛盾很深，所以在抗日戰爭結束後四十四軍沒能回四川。全面內戰打響之後，就被蔣介石派到蘇中第一線充當炮灰。淮海戰役之前，駐在海州，屬於李延年的第九綏靖區，而第九綏靖區也就只有這一個軍。當第九綏靖區決定撤銷後，四十四軍就交給黃百韜指揮，隨黃百韜第七兵團一道向西撤退。由於在撤退時四十四軍是走在最後，又帶有一些隨同逃命的非軍人，速度不快，在撤退中已被我軍消滅了不少。到了碾庄地區，奉命防守南線。
當時，按蔣介石的一貫作風，他給被包圍的各個軍長都投下了親筆信，給王澤浚的信是這樣寫的：
澤浚軍長：此次徐州會戰，關係黨國存亡，只許成功，不許失敗。地形、工事、兵力，我都優越，勝利在握。望激勵將士，以盡全功。
王澤浚父子都在國民黨雜牌部隊中帶兵，對於蔣介石這一套當然較之蔣介石的嫡系將領更清楚，所以這封信被王澤浚撕得粉碎，並大罵蔣介石：「這時才來叫乖乖，有啥用！」在華野的強大攻擊下，四十四軍很快就被擊潰，成為包圍圈中最早被全部消滅的一個軍。
王澤浚在回憶錄中是這樣記述他被俘經過的：
自大小王莊和彭庄、賀檯子相繼被解放軍佔領後，解放軍即對前後黃灘、小李庄採取坑道進攻戰法，晝夜不停地進行坑道作業。十六日晚，小李庄亦被佔領。天明後，坑道工事已滿佈於陣地前面，兩軍相隔不過數十公尺。……十八日拂曉前，第四十四軍的掩蔽部被解放軍的戰車轟垮，我幾乎被活埋在裡面。解放軍從四面八方逼近，炮兵沒法射擊，但又無處可以轉移，只有一個炮兵排長在我身旁，要我快想辦法離開。我對那排長說：「我就在此地，你們不要管我。最好你去找你的連長，叫他自打主意，突圍逃命也好，在此繼續抵抗也好，投降共軍也好，我都不管。」那排長馬上去找他的連長，不到十分鐘回來說：「共軍已解除了我們的武裝，要我們去集合，你最好不要暴露，也同我們去吧。」當那排長說完時，解放軍的幹部和戰士已出現在我面前。清查人數時，一位幹部問我：「你是什麼人？」我答：「我是一個排長。」約半小時之後，大概是清掃戰場完畢，來了一位解放軍的幹部，他似早就了解我的身份，故意問我：「你究竟是什麼人？」我即向其坦白了。因天已大亮，我雖穿上一件士兵棉大衣，但裡面卻是黃色毛織將官服和中將的領肩章，這是無法矇混過關的。
王澤浚的回憶，比較真實地記述了黃百韜兵團覆滅前的情況。不過，這時黃百韜兵團的火力仍然很強，因為黃百韜把各軍的重炮集中使用，全部都集中在碾庄附近。強大的火力還有一部分是來自空中，因為顧祝同給黃百韜空投了一部地空通信電台，專門用來和空中的飛機聯絡，地上既能從空中了解戰場上的情況，空中又能根據地上的要求進行轟炸。黃百韜兵團這時還能守住若干陣地，與空中的支援有很大關係。
為了更有效地對黃百韜兵團進行「層層剝皮」，減少傷亡，華野9各縱隊從11月15日開始停止了對黃百韜兵團的猛攻，而改為使用坑道作業一口一口地吃掉敵人。11月17日，粟裕為了更多地消滅敵人的有生力量，命令我軍阻援兵團有意略向後撤退。這種戰術的改變使徐州的劉峙和杜聿明產生了一種錯覺。11月17日，在杜聿明的指揮下向東攻擊、援救黃百韜的邱清泉、李彌兩兵團發現解放軍在向後退卻，有的部隊還在經張集、房村向東南方向撤退，空軍在空中所見到的情況與地面的報告也是一致的。杜聿明又聽說解放軍的糧彈缺乏，遂做出了錯誤判斷，認為解放軍「已被擊潰」，「有全面崩潰之可能」，「決以徹底撲滅匪軍於運河西岸」，命令邱清泉和李彌全線攻擊前進，「迅速擊破各該當面之匪」；又命令黃百韜「即以有力部隊向外出擊，搜索匪情，抑留匪以待攻擊兵團到達，夾擊匪軍，以竟全功」。昏庸的劉峙得到報告後，也以為解放軍已經守不住了，敗退了，他欣喜若狂地大叫「這回可對得起國人了」！一方面向蔣介石報捷（前面已經提到過的七十四軍在潘塘未被消滅，潘塘未曾失守也是上報的「大捷」的重要內容），向各省主席報捷，一方面下令徐州城中大貼標語，大放鞭炮，慶祝「徐東大捷」。
蔣介石在萬分苦惱之中（這時的蔣介石不僅為戰場上的敗局苦惱，還要為金融危機和國統區內風起雲湧的反抗浪潮苦惱。遠的不說，就在這一個月中就有東北全境盡失、國統區的「幣制改革」失敗、財政部長王雲五辭職、行政院長翁文灝辭職、有「文膽」之稱的蔣家王朝最重要的謀士與代筆人陳布雷服毒自殺等，令蔣介石萬分頭痛），得到如此難得的好消息，真是喜出望外，宣布無論官兵一律犒賞金圓券3元。同時宣布，獎賞第七兵團司令黃百韜一等雲麾勳章一枚，第七兵團參謀長魏翱和第二十五軍軍長陳士章等雲麾勳章各一枚，第四十四軍軍長王澤浚和第六十四軍軍長劉鎮汀四等寶鼎勳章各一枚。在國民黨的各種報紙上，「徐州大捷」、「碾庄圩固若金湯」、解放軍在碾庄「伏屍遍野」之類文字一夜之間紛紛出籠。
不過，劉峙這一次還真是說話算了話，他親自乘飛機飛到碾莊上空，把給黃百韜兵團的10萬元金圓券扔了下去，把給黃百韜等人的雲麾勳章、寶鼎勳章扔了下去。縱然這時的碾庄有再多的鈔票也無法買到什麼東西，已經在大量宰殺戰馬充饑了。
其實，華野略作後撤，這是粟裕根據毛澤東的指示，將「打黃阻援」轉為「圍黃打援」，為了誘敵而消滅邱清泉和李彌，為了麻痹敵人而有意採取的一個手段。就是利用邱清泉和李彌一心想通過大許家一線靠近碾庄的心理，有意後退一點，放邱清泉和李彌向東深入至大許家一線。與此同時，將已被包圍的四十四軍、一零零軍和二十五軍先行殲滅，暫時留下敵兵團部和碾庄東南的六十四軍。等到邱清泉和李彌到達大許家一線之後，由早已準備在徐州東南方側翼的蘇北兵團等5個縱隊向北插入，切斷邱清泉和李彌的後路，對其實施兩面夾攻，讓華東野戰軍將黃百韜、邱清泉、李彌這三個已經被我打殘的兵團全部消滅。由於我蘇北兵團已經在11月17日與敵七十四軍在潘塘地區接戰，而邱清泉和李彌在遭受我強有力的阻擊之後，冒險前進的可能性已經不大，這個計畫才未能實現。可是，無論是在徐州的劉峙和杜聿明，還是在前線的邱清泉和李彌，他們一直都未能發現我軍差點就把他們的三個兵團一鍋煮的這一計畫。
就在徐州和南京吹吹打打「慶祝勝利」之時，11月19日上午10時，粟裕下令向黃百韜兵團發起總攻。在前線負責具體指揮的譚震林和王建安早已做好了部署，鑒於敵人的守衛範圍已經很小，所以決定首先奪取碾庄敵人的兵團指揮部，把敵人完全打亂之後再行分割消滅敵二十五軍和六十四軍殘部。譚震林和王建安命令八縱以一部鉗制碾庄以東的六十四軍，主力則由碾庄東南向西北方向進攻，直取碾庄的敵兵團司令部；九縱則由南邊向北進攻，目標也是碾庄的敵兵團司令部；四縱則從碾庄西北邊和西邊向碾庄發起攻擊；十三縱和六縱集結於碾庄西邊和西南邊，作為預備隊。同時決定，各縱隊的炮兵統歸華野特種兵縱隊司令陳銳霆統一指揮。
號令一下，我圍攻碾庄的各縱隊大炮一齊開火，對敵軍實行了連續30分鐘的猛烈轟擊。為了在敵人高密度聚集的情況下儘可能多地殺傷敵人，為了減少我軍發起進攻時的傷亡，幾萬發炮彈傾盆大雨一般落在敵人的陣地上。鑒於碾庄一帶敵人已經修築了相當堅固且形成體系的三道工事，我們的炮兵在經過周密的調查研究之後，也改變了過去分散配置、直接瞄準的方法，而是將火炮集中，進行縱深梯次配