11月5日，徐州「剿總」得知我華東野戰軍將全軍南下的消息，十分驚恐。在徐州以東的國民黨各軍都爭先恐後地向徐州逃竄。
此時，顧祝同和郭汝瑰還沒有離開徐州。為了穩住徐東的局面，顧祝同以統帥部的名義下命令，讓邱清泉火速從徐西撤回徐州，李彌從碾庄往徐州撤。同時，他又召見了黃百韜，要他在新安鎮再待兩天，接應李延年。黃百韜心裡十分生氣，但顧祝同是他的靠山和老上級，又不敢當面頂撞。回到新安鎮，他動不動就大發脾氣。
國民黨統帥部為了防止海州李延年的第九綏靖區被殲，命令黃百韜的第7兵團在新安鎮一帶掩護第九綏靖區撤退。後來國民黨統帥部又決定讓海軍從海上將李延年部接走。因為海軍的軍艦不能湊齊，又改成還是讓李延年部從陸上西撤，李延年心裡也是極為不滿。
為了逃離險境，李延年只得拉上正在海州的南京國民黨總統府少將參軍、戰地視察官李以匡駕車去黃百韜設在新安鎮的兵團部和他商量撤退的事宜。他生怕黃百韜一怒之下，自行撤退，扔下他撒手不管，所以才拉上了李以匡同行。李以匡和黃百韜是好友。黃百韜雖然沒有扔下他不管，但是心情顯得很惡劣，在李延年和李以匡面前都毫不掩飾。黃百韜向他們二人表示，他在危難之際，絕不會獨自逃命，惟有死戰而已。言語之間，很是悲觀。
受黃百韜悲觀絕望情緒的影響，李以匡也在新安鎮度過了一個不眠之夜。
一直拖到11月7日，黃百韜兵團才開始從新安鎮地區西撤，黃百韜命令第100軍掩護第44軍，第25軍掩護第100軍，依次撤退。
當兵團大部隊撤退到運河時，黃百韜看著運河鐵橋上蠕動的人流，心亂如麻。只看到部隊官兵和隨同撤退的國民黨地方黨政機關人員擁擠橋頭，爭相通過，混亂不堪。
下午，第7兵團兵團部和先頭部隊渡過運河，沿途行進很是艱難，部隊隊形散亂。黃百韜坐在車上，面對戰前就呈現出的敗亡之兆，他不禁搖頭嘆息。黃百韜深感氣悶，本來他只有三個軍，由於一下子增加了兩個軍，現在他手下的兵力已經有五個軍，兵員差不多增加了一倍，但卻如同一個沉重的包袱壓得他喘不過氣來。
運河上根本沒有其他的通道，也沒有船隻，五個軍只能同擠一座鐵橋通過運河，這得要走多少天？況且戰線拉得太長，又如何應戰？
這天的黃昏時分，正當我山東兵團三個縱隊全力向運河沿線推進時，突然接到華東野戰軍代司令員兼代政委粟裕的急電，得知黃百韜兵團主力正向運河以西逃竄，命令山東兵團指揮第7、第10、第13縱隊排除一切困難，以急行軍直插曹八集、大許家、苑山一線，截斷敵人退路，以構成圍殲黃百韜兵團的態勢。
戰役開始時，我華野7縱的任務是：以一部兵力包圍棗莊、嶧縣(今嶧城)之敵，派出精幹得力部隊襲占並控制萬年閘大橋，主力由萬年閘及其東西地區渡運河直撲賈汪，配合政治攻勢，促使國民黨第3綏靖區馮治安部起義，如發現該部向南收縮則殲滅之。
7縱的首要任務是突破敵運河防線，攻佔萬年閘。縱隊正面的一段運河成東西向，兩岸相距200米左右，河堤北低南高，水面寬50-70米，水深約3米，流速較急。其中萬年閘所在段運河分為兩股：北股月灣河，有橋；南股為運河主流，也有橋；兩股之間，夾著一片蘆葦灘地。敵人在運河沿線修築了工事，每隔200米築一地堡和集團工事，有小分隊守備。萬年閘地區的工事和守軍更多更強，兩座橋都有較堅固的橋頭堡，並在北岸的大劉庄、楊閘關(今楊閘官)、小李庄等地設有外圍據點。防守萬年閘至六十子地段的部隊為59軍180師539團，其第3營會同嶧縣大隊和一部分保安部隊擔任萬年閘及其外圍據點守備。
10月30日晚，7縱奉命移至膝縣以東、西集以北地區集結，進一步進行各項推備，著重組織擔任突擊的各部隊做好攻佔萬年閘和強渡運河的戰術、技術準備。11月5日黃昏又從滕縣、西集之間地區拘南開進。6日黃昏，棗莊、嶧縣守敵南撤。7日晨我軍進至金陵寺、古邵、大荒、葫蘆埠、泥溝地區，抵近敵運河防線。當日下午3時，7縱第一梯隊19、21兩師的突擊團開始接敵運動。這時，陰雲密布，下起濛濛細雨，天色較暗，對部隊的隱蔽運動十分有利。
我21師61團的位置在夏庄南，離萬年閘1公里左右。中間有揚閘關村，揚閘關東側是大列庄，西側是小李庄，和尚庄，地形開闊。吳團長和營長們蹲在隱蔽處打開地圖，用手電筒照著看了一會兒，命令2營由團參謀長指揮，突過運河後，沿河堤向西打，協同1營攻佔萬年閘。1營先消滅楊閘關之敵，用1個連迂迴到萬年閘西頭佯攻吸引敵人。3營待命。要求各營抓緊時間，動作要快。
雨停了，天空星光閃爍，地面寒風颼颼，穿著已經潮濕的衣服，更是涼氣逼人。走在1營前頭的偵察排端著槍貓腰前進，忽兒躍起，忽兒趴下，隱蔽接敵。楊閘關村口抱著槍的敵哨兵正在低頭打盹。我偵察兵如餓虎撲食，一把抓住敵哨兵。
「不準動，不許喊叫！」
「解放軍兄弟饒命！我是被抓丁來的」。
話音未落，一束手電筒光射來，敵哨兵悄悄告訴我偵察戰士說：「這是帶班的。」
那個帶班的傢伙慌亂中開了一槍，拔腳就跑，邊跑邊喊：
「解放軍來了！解放軍來了！」
1連和偵察排乘敵混亂之機，猛衝上去，將敵人營房團團包圍，敵人連棉褲也來不及穿就當了俘虜。
與此同時，3連迅速奪取了小李庄，又迅速向東逼近月灣河橋頭。團長命令3營進入戰鬥，配合1營迅速攻佔萬年閘。我軍東西夾擊，敵人措手不及，亂作一團。從楊閘關潰退的保安旅，朝著運河橋頭逃跑。3連機智地放他們通過，準備在尾追時，一齊過橋。誰知守橋敵人死死封鎖，逃敵不能上橋，只得紛紛跳下水去。
此時，我1營、3營幾乎同時逼近橋頭。橋上守敵企圖炸橋逃命。3連火力強，行動快，敵人的炸藥包被衝鋒槍掃射引爆，扛炸藥包的敵人也一起被炸進河裡。炸藥包沒有炸掉大橋，只是把橋板燒了一個窟窿。戰士們趁爆炸的濃煙沖了過去，搶佔了跨在月灣河上的大橋。
敵人丟失月灣河橋之後，知道再退就要覆滅，下決心死守第二道橋。他們一邊盲目射擊，一邊動手關閉鐵絲網門。2排副排長王克斌率4班猛衝上去，不待敵人關上門就沖了過去。緊接著，班長魏長遠，戰士王上海迅速衝過橋面，向敵橋頭堡掃射、解放軍戰士英勇阻擊增援之敵扔手榴彈，消滅了橋南橋頭堡里的敵人。3連迅速衝過大橋，消滅了增援之敵2個連，保住了大橋。團指揮所也相繼轉移到橋南。
再說我右路第19師55團在萬年閘以西4公里左右的堰公頭，以猛烈火力掩護突擊隊泅渡，驅逐了南岸河堤守敵，佔領了有利陣地。接著，用6隻橡皮船陸續渡過2個營和3個偵察隊，並迅速肅清兩側六十子、巨梁橋之敵，打通了與21師渡河部隊的聯繫。
運河防線的迅速突破，特別是萬年閘兩座大橋的完好佔領，為我主力南下打開了通路。
就在我7縱突破運河的同時，右鄰10縱逼近韓庄，殲滅敵保安部隊一部，爭取77軍1個營起義，並有2個連在新閘子渡過運河；左鄰13縱包圍了台兒庄守敵，並有一部在台兒庄以西渡過運河。
我軍的強大壓力，給國民黨第3綏靖區中原來贊同起義的人以極大的鼓舞，而使原來猶豫徘徊的人迅速轉向贊同起義。8日晨何基灃、張克俠兩位將軍隨即率領59、77兩個軍大部共2 3萬餘人，分別在台兒庄、賈汪集中，舉行起義。我19師迅速進至賈汪、崮峴地區。何、張率部起義，打亂了敵徐州「剿總」的部署，使徐州以北和東北完全暴露，為我軍北線各縱迅速南下，切斷隴海路，合圍黃百韜兵團，提供了非常有利的條件。
11月8、9兩日，華野和山東兵團首長接連下令，命7縱、10縱和13縱迅速南下，直插隴海線之苑山、大許家、曹八集段，繼續向單集、雙溝、房村前進，會同路南向西急進的11繳和江推2個旅，力求截殲李彌兵團一部，務必切斷黃百韜兵團西撤道路，以保障和協同華野主力圍殲黃兵團於運河以西、徐州東南地區。
國民黨第三綏靖區所屬第五十九軍、第七十七軍的三個半師二萬三千餘人，在何基灃、張克俠兩將軍率領下，舉行陣地起義。這是起義部隊開往解放區7縱接到命令，即確定如下部署：縱隊率20師、21師經柴山，北許陽、甫許陽、朱灣、塔山及其兩側，向大許家車站和單集攻擊前進；19師除以一部兵力控制賈汪，待10縱派隊接防後甫進外，主力經泉河、油坊、葉場，向徐州以東隴海路兩側的周庄、黃集、殷山(今鷹山)攻擊前進。
8日晚至9日晨，20師、21師進抵朱灣兩側的不老河北岸。不老河，南距隴海路10多公里