1948年秋天，國民黨軍在東北、華北接連敗退。濟南和兗州相繼失守，國民黨人心浮動。其時，國民黨國防部長何應欽剛剛上台不久，心裡也是焦慮不安。誠然是受命於危難之際。但他馬上就得直接面對這個嚴酷的現實，不得不拿出更多的精力來對付解放軍愈來愈凌厲的攻勢。蔣介石得知丟了濟南，更是暴跳如雷，將收音機摔得粉碎。
在淮海戰役前夕，國民黨軍事上的優勢完全喪失。政權有搖搖欲墜之勢。而10月下旬，蔣介石又親自在北平指揮遼瀋戰役，遲遲沒有對全國性的戰略作出決策。
俗話說新官上任三把火，國防部長何應欽見勢不妙，為了能對蔣介石有個交代，不得不使出渾身的解數，盡量來保住蔣家王朝的半壁江山。
10月22日何應欽召集劉斐、蕭毅肅、郭汝瑰、顧祝同等人研究中原作戰的計畫。何、顧認為遼瀋戰役失敗已成定局，從全國形勢看，應該誘導華北「剿總」以主力部隊在津塘地區進行持久戰，以牽制東北野戰軍，使解放軍不能增兵黃河以南，從而改變其中原地區的不利形勢。
這時在中原地區的國民黨軍隊由徐州「剿總」劉峙和華中「剿總」白崇禧分別掌握，二人相互協作很差。劉峙是有名的「福將」，別看他指揮作戰不行，卻連連高升。在抗戰初期，時任第一戰區第2集團軍總司令的劉峙率部千里潰逃，喪師失地，只因為是蔣介石「忠實可靠」的心腹愛將，事後不但沒有受到任何處置，反倒福星高照，官運亨通，早就引起了許多其他國民黨將領的強烈不滿。在1948年6月，蔣介石撤銷其「陸軍總司令徐州司令部」時，內部就有以白崇禧統一指揮各軍之議，後來因為蔣介石、陳誠、顧祝同等人不放心白崇禧，所以才另設徐州「剿總」，任命「豬將軍」劉峙為總司令，以分白的兵權。
當時南京政府內部議論紛紛，說徐州是南京的大門，應派一員「虎將」把守。若不派一虎，也應派一隻狗看門，而今派一隻豬，眼看大門就守不住了。當時任國民黨國防部第三作戰廳廳長的郭汝瑰聽了這個笑話，就講給顧祝同聽。顧祝同沒有笑，他板起面孔對郭汝瑰說：「徐州剿總的人選，我們考慮過兩個人，即劉經扶(劉峙)和蔣銘三(蔣鼎文)。蔣銘三日夜嫖賭，常常不理公務，比較起來還是劉經扶好些。」劉峙就是這樣當上了徐州「剿總」的總司令。
6月14日，劉峙率參謀長李樹正乘飛機由南京飛往徐州，正式就任「徐州剿匪總司令」。臨行前，劉峙提出要求，要在「剿總」下設一個「前線指揮部」，建議讓國防部挑選一名黃埔一期出身、曾任兵團司令以上、資深而有作戰經驗、能孚眾望者，以副總司令名義兼任「前線指揮部」主任。
這個想法，劉峙在頭腦里醞釀已久，一開始他就提出來，把「前線指揮部」放在徐州，其目的顯而易見：有了這個「有言在先」，以後自己好脫身到後方指揮。因為劉峙是直接通向蔣介石的人物，國防部長何應欽只好同意了這個提案，就以宋希濂和杜聿明為基本人選，簽請蔣介石裁定。蔣介石最後選中了東北「剿總」副總司令杜聿明，主要也是想以杜之長來輔助劉峙的不足。
從此，劉峙便事事放手讓杜聿明安排。而杜聿明仗著他11個軍的強大兵力，主張乘解放軍新得濟南的間隙，佯攻濟寧，收復濟南，實行《對山東共軍攻擊計畫》，蔣介石和何應欽一致同意這一計畫。
正當徐州國民黨軍主力向北推進之際，東北戰場告急，蔣介石匆忙之間又把杜聿明調往錦州。劉峙頓感六神無主，急得直叫：「光亭走了，如何是好，北進誰能做主。」過了兩天，副參謀長文強等請示劉峙：前線軍事是堅決按原計畫執行，還是有所改變。劉峙回答說：「光亭走了，誰能指揮得了前線的部隊，我已經命令部隊停止待命，原計畫暫緩執行。」又說：「光亭既已升任冀熱遼邊總司令，不再回徐州，我正打算保薦宋蔭國(宋希濂)來接替光亭，否則，守徐州的責任重，我個人是擔不起的。」趁此機會，劉峙便命令部隊停止待命，轉而保舉宋希濂來接任徐州「剿總」副總司令。隨之，佯攻濟寧，收復濟南，實行《對山東共軍攻擊計畫》的作戰計畫便告流產了。
劉峙所部黃百韜、邱清泉、李彌、孫元良4個兵團共40多萬兵力，從西往東，自河南商丘到連雲港，排成了一字長蛇陣。對於作戰來說，這是一個最容易截擊，被各個擊破的陣勢。作為全軍主帥的劉峙，卻並沒有及時改變這種陣勢。
劉峙胖胖的身軀，圓圓的面孔，看上去並不討人嫌，相反倒還讓人有幾分喜歡，另外他也不盛氣凌人，好像總是嚴肅不起來。他不大過問具體繁瑣細節，誰都知道劉峙本事不大，人很隨和，是有名的福將，不管是打勝仗還是打敗仗，部屬跟著他都有官做。
現在，何應欽覺得不妥當了，他又重新提出以白崇禧統一指揮之議。本來何是蔣介石的嫡系將領，但蔣介石疑忌何應欽而信任陳誠，因此，何又拉攏白崇禧。並且根據我中原野戰軍向禹縣移動的情報，判斷中原野戰軍即將進攻鄭州，也可能協同華東野戰軍向徐州「剿總」的轄區進攻，因此主張徐州「剿總」放棄隴海線上各大城市，集中兵力於徐州外圍。華中「剿總」以第12兵團所轄第2、第10、第15及第18等四個軍進出周家口附近，依情況策應徐州「剿總」或華中「剿總」之作戰。
當天就制定出了作戰計畫，命郭汝瑰在23日送到北平向蔣介石請示。臨行之前顧祝同囑咐再三：「要報告總統，白健生(即白崇禧)只是暫時統一指揮，會戰結束後，華中『剿總』和徐州『剿總』仍將分區負責。」郭汝瑰到達北平的當天，蔣介石就作出了決定：
(一)徐州方面應採取攻勢防禦，可放棄鄭州、開封等城市。第四綏靖區劉汝明部應固守商丘，第44軍李振清部可由鄭州退黃河北岸，準備以後打游擊；
(二)華中、徐州兩總部由白崇禧統一指揮；
(三)第2軍及第15軍可歸入第12兵團序列，華中「剿總」必要時可以放棄南陽，以便使第12兵團進出周家口；
(四)可令宋希濂任徐州「剿總」副總司令。
遵照顧祝同的囑咐，郭汝瑰還是小心翼翼地向蔣介石說明叫白崇禧統一指揮只是暫時的措施。蔣介石說：「不要叫他暫時指揮，就叫他統一指揮下去好了。」為了敷衍白崇禧，蔣介石還是故意作出了個對白崇禧很放心的姿態。
10月24日，何應欽致電白崇禧，告知他蔣介石關於讓他統一指揮的決定，並以蔣介石的名義向他下達了作戰指示。
10月29日，在國防部的作戰會議上，何應欽提出「守江必守淮」的主張。但與會者圍繞如何守淮各執己見，就形成了兩種意見：
第一種意見，主張徐州「剿總」除以一至兩個軍堅守徐州之外，所有隴海線上的城市完全放棄，集中所有兵力於徐州、蚌埠之間的津浦鐵路兩側，作攻勢防禦，無論「共軍」由平漢路、津浦路或取道南下，均集中全力找尋「共軍」決戰。
第二種意見，主張退守淮河南岸，憑險據守。
華東野戰軍部隊經魯西南地區向徐州挺進
擇其善者而從之。在這兩種結果面前，蔣介石思前想後，如果退守淮河，以後將不方便向平漢路或向北方面機動，一旦「共軍」打通隴海路，向東向西調動兵力，都會很靈便，那樣將對「國軍」的處境造成不利。他覺得還是採取第一種意見的好，放棄海州(海州守敵第九綏靖區司令李延年這時還被蒙在鼓裡)，必要時還可以放棄商丘。當天，他又明確地通過電報告訴了徐州「剿總」總司令劉峙。
臨陣不決是為將者的大忌，但蔣介石已顧不得這麼許多了。哪裡危急，他就先忙哪裡，把次要的往後放。徐州「剿總」副總司令杜聿明曾主動提出出擊魯西南，與我華東野戰軍決戰的舉動，頗得蔣介石的歡心，就在這一方案馬上要付諸實施的時候，遼瀋戰場告急。為了穩定東北的局勢，蔣介石緊急把杜聿明調往東北，把徐州戰場的一攤子事丟在一邊。
遼瀋戰役發起之初，我華東野戰軍在濮陽一帶整休，蔣介石得到這一消息，很是欣慰和放心。於是命令徐州各軍就地固守，靜觀事態的發展。
就這樣，他一會要放棄徐州，退守淮河；一會要出擊魯西南；一會又要固守徐州；搞得自己手下的將領也摸不著頭腦，統帥部更是朝令夕改。
自我中原野戰軍解放鄭州、開封后，與華東野戰軍造成東西夾擊徐州之勢。這時蔣介石才覺察到，我中原野戰軍有東進徐蚌，協同華東野戰軍作戰的意向。華東野戰軍、中原野戰軍攻勢之強大，完全出乎他的意料之外。此前，他正想把江北主力撤退到江南，但又怕撤退後動搖軍心，一直在心裡猶豫不決。現在他已經判明解放軍的首要目標是吃掉黃百韜兵團。蔣介石深感徐淮戰場危急，於是急忙命令黃百韜兵團迅速西進；邱清泉、孫元良兵團及新組建的李延年兵團、劉汝明兵團向徐州集結；華中「剿總」集