1947年1月，南京，總統府大樓。
蔣介石背著手在辦公室踱來踱去。他眉頭緊鎖，臉色陰鬱。
自發動全國規模的內戰以來，在華東戰場上屢遭慘敗，尤其在去年11月以後，整編第69師在宿北被殲滅，師長戴之奇畏罪自殺；整編第26師及歸該師指揮的機械化的快速縱隊在山東嶧縣城和蘭陵鎮地區被殲滅，師長馬勵武被活捉；整編51師在棗莊被殲滅，師長周毓英被活捉。
由於在宿北、魯南的兩次失利，薛岳的四路進攻計畫陷入泥沼，不得不重新調整。對於卧榻之旁的失敗，蔣介石是不甘心的。
「在這種形勢下，必須打幾個勝仗來振奮國軍。薛岳指揮不力，名聲低落，看來必須派陳誠親自出馬！」蔣介石自言自語道。他走到辦公桌前，拿起電話要通了陳誠。
「辭修，目前華東形勢不妙，薛岳指揮不力，看來你必須親自前往徐州指揮國軍。幫助薛岳重整旗鼓，制訂新的進攻計畫。一定要將共軍消滅在華東地區！」
「是！絕不辜負主席的期望！」
1月17日，陳誠飛抵彭城。這時魯南戰役第二階段作戰尚未結束。陳誠的到來，並沒有給薛岳帶來什麼好兆頭。三天以後，陳、粟大軍便攻克了棗莊，全殲整51師，給了陳誠一個下馬威。
共軍不給面子，有「大將風度」的陳誠倒不在乎，可國民黨官兵的士氣普遍低落，卻使他感到十分頭疼。
為了給部下打氣，陳誠不但在徐州，而且親赴韓庄、賈汪等地召集各部官兵訓話。然而，效果並不顯著。在中下級軍官和士兵中，逃亡、抱病、請假乃至辭職的愈來愈多。即使是高級軍官，也是心有餘悸，談虎色變，根本沒有什麼勝利的信心。
無奈，陳誠只好跑回南京，請蔣介石到徐州，由他親自給官兵們鼓勁。
2月2日，蔣介石飛抵徐州，部隊的情緒稍稍穩定下來，新的進攻計畫也在他的直接督促下制訂出來了。
這一計畫稱「魯南會戰」，企圖迫使華東野戰軍在臨沂附近決戰，以軍事上的勝利來影響即將舉行的蘇、美、英三國外長會議。其部署是：整編第19軍軍長歐震指揮8個整編師20個旅組成主要突擊集團，自台兒庄至城頭一線分三路進犯臨沂：其右路為黃百韜指揮的6個旅，中路為李天霞指揮的7個旅，左路為胡璉指揮的7個旅；以第2綏署區副司令李仙洲指揮第12、46、73軍等3個軍9個師為輔助突擊集團，由膠濟路南下，直搗山東解放區在萊蕪、新泰、蒙陰的後方基地，形成南北夾擊的態勢。
他們不僅集中了華東戰場上所能集中的全部機動兵力，而且出動了大批飛機對臨沂等地狂轟濫炸。還從豫北、冀南抽調王敬久集團4個整編師集結於魯西南地區，以阻止晉冀魯豫野戰軍東援或華東野戰軍西撤。
陳誠嚴令所屬各部：「黨國成敗，全看魯南一役，只許成功，不許失敗。」
陳誠的話很快便傳到了陳毅的耳朵里。幾天後，素有「儒將」之稱的陳毅就在華野一縱的幹部大會上答覆了陳誠的挑戰。他操著濃重的四川口音，幽默地對大家說：「陳誠在徐州公開宣布了，他要親臨濟南同我陳毅進行決戰。既然他如此看得起我，盛情難卻呀！我只好認真奉陪，來個『二陳決戰』！你們看，該不該打這個決戰？」
陳毅的話音未落，會場上立即響起一片掌聲和笑聲。
就這樣，「二陳決戰」便不脛而走，傳遍了華野各部，成了即將來臨的一場大戰的代名詞和華野各部指戰員們議論的重要話題。
話雖然說得輕鬆，可真要在數十萬大軍的交鋒中取得勝利，對雙方來說都不是一件輕而易舉的事情。
陳毅深知，這一次，蔣介石和陳誠確實下了很大的賭注。在總的力量對比上，國民黨仍佔有很大的優勢。正因為如此，陳誠才敢誇海口、吹大牛。他陳毅必須認真對付，絲毫不能疏忽大意，否則，蔣介石、陳誠的陰謀真有可能得逞。
陳毅、粟裕最初的計畫是，將華野主力迅速集中於臨沂地區待機，準備在臨沂以南迎戰當面之敵，以保衛臨沂。具體的打法是採取誘敵深入，首先引誘其中一路進攻之敵突出冒進，然後集中優勢兵力予以圍殲。
為了實現這一計畫，華東野戰軍用了各種方法誘敵，等候有利時機的出現。
誰知一連等了好幾天，南線之敵卻不肯上當。他們吸取了宿北、魯南戰役失敗的教訓變得更加狡猾和謹慎了。三路兵馬均採取了「集中兵力，穩紮穩打，齊頭並進，避免孤軍突出」的戰法。不管共軍如何誘逼，他們總是小心翼翼，步步為營，像烏龜一樣緩緩爬行，平均每天只推進五六公里。他們還採取了所謂的「硬核桃夾爛葡萄」的戰術。被稱為「爛葡萄」的是戰鬥力較弱的雜牌部隊，總是和被稱為「硬核桃」的戰鬥力較強的嫡系部隊靠在一起，互相照顧嚴密防衛。南線之敵的這種辦法確實起了作用，使華野難以將其分割，捕捉不到有利戰機。
但北線南犯之敵有所不同。也許是李仙洲等人沒有吃過共軍的苦頭，膽子比較大，故推進速度比較快。據偵察，截至2月4日，李仙洲所率北線3個軍的先頭部隊已進至萊蕪、新泰一線，對華野的後方構成了重大威脅，在這種情況下，陳毅、粟裕不得不重新考慮作戰計畫。此時，恰好延安也發來了電報。毛澤東指示說：「敵愈深進愈好，我愈打得遲愈好；只要你們不求急效，並準備於必要時放棄臨沂，則此次我必能勝利。」
陳毅深深感到毛澤東以空間換取時間、集中兵力殲滅敵人有生力量的戰略思想的英明。因為敵人逼我在臨沂地區決戰，我有了必要時放棄臨沂的準備，作戰的迴旋餘地就大得多了。
陳毅很快提出了一個重要的設想：既然南線敵人重兵密集，戰機難尋，而北線敵人孤軍深入，威脅我後方，我們何不改變原定作戰方針，置南線重兵集團於不顧，而以主力北上，以絕對優勢兵力，殲滅北線之敵。他要求粟裕對此作深入周密的思考。
粟裕覺得司令員這個設想十分高明。他又作了進一步的對比和分析，首先他對比了南、北兩路敵人的不同情況，認為南線敵人有60多個團，我也僅有60多個團，在兵力上不能佔有優勢，不能對敵人實施分割包圍；而北線敵軍兵力小，戰鬥力相對弱些，內部派系矛盾多，如我將主力隱蔽北上，可以對其形成絕對優勢，有把握予以殲滅。敵人既認定我必固守臨沂，我軍突然北上，定可出其不意。這樣，我就可置敵在南線強大兵團於無用武之地，既可避免不利決戰，又可在北線殲敵一大群，粉碎敵之南北夾擊意圖，解除我後方威脅。
北線的敵人如發現我主力北上，可能回縮使我撲空，但即便如此，我還可乘勢進擊膠濟路，打通魯中、膠東、渤海三區聯繫，然後休整部隊，以逸待勞，從容迎擊南線北進之敵。而且我軍還可採取種種佯動措施，迷惑敵人，只要能爭取到幾天時間，北線之敵便難逃被殲的命運。
粟裕又考慮了多種不利情況及處置方法，其中包括來自敵方的和我方的，以及後勤支前方面的，都向陳毅一一陳述。陳毅每聽他說完一個問題，就說一聲「對頭」。等他全部說完，更非常高興地一連說了幾個「對頭」。然後又同譚震林及其他前委委員商量，都得到了完全的支持。
2月5日午時，陳毅簽發了報請中央軍委審查的3個作戰方案：第一，以第二縱隊進擊白塔埠、房山街之郝鵬舉部，誘右路敵東援或待中、左路敵放膽北進，然後視機殲其一路；第二，如敵仍密集不分，則以一部監視敵人，主力集結臨沂以北休整待機；第三，如敵仍不北進，即轉兵北上，求殲李仙洲集團。
2月6日，討郝戰鬥發起。二縱以迅速勇猛的動作，一夜奔襲數十里，乾脆利落地消滅了郝鵬舉叛軍。但是與我方預料相反，國民黨軍並沒有前來增援，而是採取更為謹慎的動作，加強了各部的防禦和配合，還是步步為營地向前推進。
毛澤東看到了這一點，2月9日電告陳粟譚：「解決郝鵬舉部很好。但就全部戰略方針來說，如你們方針是解決南面，則似乎打得早了一點，可能影響敵各部進得更謹慎。打了郝鵬舉後你們似應按兵不動（要有極大忍耐心），讓敵各部放手北進，然後各個殲滅之。如你們方針是先解決北面，則打郝鵬舉並無妨礙。你們須在兩個方針之間有所抉擇。」
陳毅、粟裕下定決心集中兵力先打北線之敵。他們於2月11日電告中央軍委：「我們決心集中葉（飛）、王（必成）、陶（勇）、成（鈞）各縱隊及王建安、許世友、宋時輪等部共53個團，擬首先集中全力解決73軍及南北師庄12軍之一個師，而後再轉移兵力解決進佔新泰之46師，及向膠濟線進攻，以徹底解決北線問題。」對於南線敵軍，擬「稍為阻滯敵人進佔臨沂之行動，決由陳士榘率指揮所留臨沂附近，指揮韋（國清）縱及三縱（華南8師及魯旅6個團）於臨沂附近，必要時可再抽一部參加殲滅進佔新泰之46師。」