6月26日晨，第3、第8縱隊按預定計畫，放棄開封向通許方向轉移，第1、第4、第6縱隊向杞縣以南、傅集東西地區轉移。當日午後，整編第5師第45旅及整編第68師重占開封。
國民黨軍統帥部判斷華東野戰軍「主力南竄，似無積極企圖」，於是以整編第25師及第3快速縱隊車運滕縣，解兗州之圍，並將已到達碭山的整編第74師車運新安鎮增防，以區兵團、邱兵團，分向太康、扶溝及陳留、通許、尉氏方面「索匪追剿」。這樣，就「使豫東主力戰場，兵力形成薄弱」（南國防部第三廳：《中原會戰戰鬥經過及檢討》），為解放軍各個殲滅提供了條件。
驕狂的邱清泉以主力向通許方向前進，尾擊第3、第8縱隊；區壽年兵團進達睢縣西北的鐵佛寺、龍王店、榆廂鋪地區後徘徊不前。邱、區兩兵團形成了40公裡間隙。粟裕等人抓住戰機，不待查明區兵團的具體部署情況，即於27日下達了圍殲該兵團的命令。當晚，突擊集團各部以尹店集、龍塘崗、榆廂鋪地區為目標，進行合圍，同時以一部入縱深，割裂區兵團部署。
至6月29日晨，華野部隊已將區兵團部和整編第75師、新21旅包圍於龍王店及附近地區，並完成了對敵75師各旅團的分割。同時，將敵整編72師包圍於鐵佛寺周圍地區。我阻援兵團控制了被包圍之敵以西20公里之杞縣至王店集一線，隔絕了邱、區兩兵團。29日晚，華野突擊集團以一部兵力繼續包圍敵整編72師，以主力對區兵團指揮部和整編第75師、第21旅發起攻擊，經兩晝夜的激戰，至7月1日中午，將敵整編75師的第6旅及新21旅全部殲滅。
7月1日下午，西邊的邱兵團在我節節阻擊下，進至距區兵團約10公里的官莊、張閣一線。東線黃佰韜兵團，由東向西增援區兵團，已抵達被包圍的敵整編72師以東約10公里的帝丘店地區。
東、西敵兩個兵團一齊壓來，形勢異常緊張，是堅持還是改變原定戰役的計畫，必須當機立斷，刻不容緩。粟裕表現出巨大的決心和氣魄，他一邊加速攻殲區壽年兵團，一邊又以4個縱隊東移，準備圍殲黃伯韜兵團。
區壽年兵團被圍，蔣介石極為驚慌。6月30日，蔣介石偕空軍總司令周至柔乘飛機到杞縣上空督戰，以殺頭相威脅逼迫邱清泉迅速攻擊前進，與區兵團會合。邱清泉即傾其全力，在飛機、坦克和大炮的支援下，對我阻擊部隊瘋狂進攻。但我東西兩線的阻援部隊頂住了敵人的進攻，始終未使敵人的陰謀得逞。
7月1日下午4時，粟裕下達了總攻區壽年兵團部的命令。當日黃昏，殘敵肅清，區壽年被俘，其參謀長林曦祥及75師師長沈澄年也被活捉。
區壽年兵團被殲，已經達到預期的作戰目的，按理說應該及時撤出戰鬥。並且因為我軍經連續作戰，傷亡較大。加之戰區久旱無雨，井河乾涸，炎熱夏季里，烈日暴晒，部隊飲水奇缺，吃不下飯，體力漸弱。但是，當華野剛解決區壽年兵團之時，東面的黃伯韜兵團進展很快，已抵達帝丘店附近，對我軍從東部撤出戰場威脅很大。粟裕認為，若不對該敵以有力的打擊，我軍攜帶大批傷員，將難以順利撤出戰鬥；即便撤出，各路敵人也會很快對我實行尾追，使我陷入被動。粟裕決心給黃伯韜一點顏色看看，打癱他，打怕他，然後迅速撤離。
7月2日晚，粟裕下達圍攻黃伯韜的命令。到4日拂曉，殲敵兩個團。5日，黃伯韜坦克反撲，被我軍擊退；黃昏後，我再度攻擊，至6日晨，又殲敵1個多團。黃伯韜兵團一共有兩個旅，1個快速縱隊，1個高警總隊，忽然被殲滅1個多旅，十分恐慌，害怕像區壽年的下場，於是急令部隊收縮於以帝丘為中心的狹小地帶，連夜清理焚燒文件、地圖，以備不測。但7日一早醒來，發現我軍全部參戰部隊早已撤得無影無蹤。氣得敵眾將官瞠目結舌，半天說不出一句話來。豫東戰役勝利結束。