豫東大捷之後，山東兵團指揮的部隊乘勝攻克魯西南重鎮兗州。攻擊山東首府濟南的任務便很快被提上議事日程。
這時，華東野戰軍外線兵團經過豫東戰役酷暑季節的連續作戰，官兵傷亡較大，體力急劇下降，正利用雨季到來的機會，在豫皖蘇地區分散休整。他們的現狀引起了中央軍委的高度關注。中央提出，要許世友、譚震林領導的山東兵團向濟南攻擊，把敵人吸引過去，以利他們休整。
1948年7月14日，即攻克兗州的第二天，中央軍委致電華東野戰軍代司令員兼代政治委員粟裕、參謀長陳士榘、政治部主任唐亮、副參謀長張震，並告山東兵團司令員許世友、政治委員譚震林，中原局、華東局：「估計敵人將利用你們疲勞之機，集中力量向你們壓迫，使你們不能安心休整。你們必須以有效行動分散敵人，乘敵人分散之際，將其殲滅幾部，方能實行大休整。此種分散敵人的行動，似以許譚攻擊濟南為最有效。擬令許譚於攻克兗（州）濟（寧）後，休息兩星期，即向濟南攻擊，迫使邱（清泉）黃（百韜）兩兵團分兵北援（敵非北援不可）。此時，你們則尋敵一部攻擊，使敵既被迫分散，又首尾不能相顧，以利於我各個擊破及而後之大休整。許譚攻濟南，可先佔領機場，以兩三個星期時間完成攻城準備（包括消除疲勞、補兵、練兵、偵察及部署等）。然後看敵援兵情況，決定先打援或先攻城。如攻城打援均無把握，則收兵休整。邱、黃既抽一部援濟，不可能向你們壓迫。你們或作戰，或休整，便均有了自由。」
中央軍委來電，使粟裕等華野領導人深受鼓舞。他們把目光投向未來更加廣闊的戰場，誰也不在乎眼前的困難。經過認真討論，他們於7月16日複電中央軍委：「如果該部署主要是為了分散敵人，以幫助我們取得時間來休息，我們則建議不必如此。」「目前如即以許譚一部搶佔濟南機場，恐部隊本身困難，難以連續作戰，且勢必迫敵北援。如是兗濟仍有被敵佔去可能。以許譚現有兵力，攻濟南與打援勢難兼顧。」「建議許譚與我們爭取時間休整一個月，而後協力攻打濟南，並同時打援。」「只要濟南能解決，打援方面又取得勝利，則戰局可能迅速向南推移，今冬攻佔徐州之計畫似屬極大可能。」
這是一個大膽的、出人意料的計畫。
華野主力在外線作戰已一年有餘，現在提出與山東兵團協力打濟南並打援，意味著由外線返回內線作戰，顯然有悖於中央把戰爭引向國民黨統治區域的方針，能得到中央軍委的認同嗎？
然而，中央軍委迅速肯定了粟裕等華野領導人協力打濟南的建議，並要他們休整完畢以後，在隴海線南北打幾仗，然後攻濟南，或先攻濟南並打援。同時提出作戰計畫。
此後，中央軍委與粟裕等華野領導人之間，電報往來頻繁，攻打濟南作戰的構想日臻完善。
8月10日，粟裕等華野領導人致電中央軍委，對雨季休整後的下一步行動提出了三個作戰方案——
第一方案：集中全力轉到豫皖蘇及淮北路東地區作戰，截斷徐埠鐵路，孤立徐州，將重點放在打援上，求得於運動中首先殲滅國民黨第五軍，繼而擴大戰果，殲滅其他兵團。
第二方案：集中主力首先攻佔濟南，對可能北援之敵，以必要的兵力阻擊。
第三方案：攻佔濟南與打援同時進行，重點配備與使用兵力。第一階段以2個縱隊搶佔濟南機場，在濟敵反奪機場中殲滅反擊力量，削弱守備的兵力，同時以其餘11個縱隊打援；第二階段則在殲滅敵軍主要一路後，以一部負責阻擊，將主力轉攻濟南。
三個作戰方案各有其優劣，粟裕他們傾向於採用第三方案。打援戰場擬選擇在山東汶河以北、泰安以西、肥城以南地區，或鄒縣、滕縣間地區，阻援戰場選擇在魯西南金鄉、巨野、嘉祥地區。
華野領導人擬於8月15日趕往兗州，與山東兵團司令員許世友、華野副政委兼山東兵團政委譚震林商定下一步作戰問題。
為更有效地配合9月攻勢，華野報告軍委：「除令江淮軍區兩旅準備襲擊徐州機場，令豫皖蘇集中四五個團破擊徐蚌段鐵路外，令淮南部隊破擊蚌浦段鐵路。同時，華中之十一縱則應適時以主力轉到運河線或沿江地帶，積極作戰，以收配合之效。建議中原軍區以主力向信陽或南陽漢水流域進擊，以吸引十八軍南下，使其不易北援。同時建議以陳謝有力一部位於鄭州附近，使鄭敵不敢東援。」
8月12日，毛澤東以中央軍委名義複電粟裕、陳士榘、唐亮、張震，並告山東兵團司令員許世友、政委譚震林、副司令員王建安，華東局、中原局：「你們所提三個方案，我們正在考慮中。待你們和許、譚、王會商，提出更接近實際的意見以後，再正式答覆你們。」
中央軍委所持態度是極其慎重的，對華野複電表示只提出一些初步感想，作為與華野會商時的參考材料。對9月攻濟打援作戰，軍委預計可能出現三種結果：「第一，打一個極大的殲滅戰。這即是你們所說的，既攻克濟南，又殲滅五軍等部大部分援敵。第二，打一個大的——但不是極大的殲滅戰。這即是攻克濟南，又殲滅一部分——但不是大部分援敵。第三，濟南既未攻克，援敵亦不好打，形成僵局，只好另尋戰機。」同時又高瞻遠矚地指出，「你們第三方案之目的，是為了爭取第一種結果。其弱點是，只以2個縱隊佔領飛機場，對於濟南並不真打，而是集中11個縱隊打援，則援敵勢必謹慎集結緩緩推進，並不真援。邱清泉、區壽年兵團之所以真援開封，是因為我們真打開封，敵明確知道我是阻援，不是打援，故以10天時間到達了開封。如果你們此次計畫不是真打濟南，而是置重點於打援，則在區兵團被殲，邱黃兩兵團重創之後，援敵必然會採取（不會不採取）這種謹慎集結緩緩推進的方法。到了那時，我軍勢必中途改變計畫，將重點放在真打濟南。中途改變計畫，雖然沒有什麼不好，但喪失了一部分時間，並讓敵人推進了一段路程，可能給戰局以影響。」軍委進而指示，「我們目前傾向於攻城打援，分工協作，以達既攻克濟南又殲滅援敵一部之目的。」
8月15日，毛澤東以中央軍委名義致電中原野戰軍，司令員劉伯承、第一副司令員陳毅和副政治委員鄧子恢：「9月華野攻濟打援是一次重要戰役，需要你們的有力配合。望你們直屬各縱對於9月作戰計畫預先籌劃，於月底電告意見。」這就是說，中央軍委已經正式採納了華野粟裕他們請中原野戰軍對這次攻濟打援戰役做有力策應的建議，中野為配合濟南方面作戰，必將有所行動。南北呼應的大格局形成了。
一幅波瀾壯闊的戰爭圖已經被勾畫而成了，顯示出戰略決戰階段序幕的初步輪廓，只待最後的點睛之筆。
這正是金風送爽、花果飄香的季節。8月20日，粟裕率野直機關和部分縱隊軍政主官來到山東曲阜，受到山東兵團領導人譚震林、王建安等人和司政機關人員的盛情歡迎。他們為粟裕一行準備了時令瓜果、可口飯菜和舒適的下榻處，還在孔府一間寬敞明亮的大廳堂裡布置了作戰室，滿牆掛上了大比例尺軍用地圖和敵我態勢圖，準備好了各種作戰文書、敵情調查資料，使粟裕一行有一種回到家裡的溫暖感覺。
老戰友相見，分外親熱，無話不談。粟裕與譚震林在井岡山時期就認識，兩人都參加了艱苦卓絕的三年游擊戰爭，長期在新四軍共事。抗日戰爭勝利後，兩人共同指揮蘇中戰役，七戰七捷。華東野戰軍成立後，粟裕任副司令員，譚震林任副政治委員，在司令員兼政治委員陳毅的領導下，共同指揮了萊蕪、孟良崮等戰役，迫使國民黨軍對山東的重點進攻暫時轉入守勢。華野分成西線兵團和東線兵團以後，粟裕和陳毅率領西兵團與劉（伯承）鄧（小平）集團和陳（賡）謝（富治）集團密切配合，挺進中原，迫使國民黨軍陷於被動局面，對扭轉全國戰局起了決定作用。陳毅到中原軍區工作以後，粟裕就任華野代司令員、代政治委員，出色地指揮了豫東戰役，使中原、華東戰場的形勢出現新的轉折。譚震林和許世友率領東兵團堅持內線作戰，出色地指揮了膠東保衛戰和膠濟路中西段、津浦路中段等戰役，從根本上改變了山東的局面，使濟南成了一座孤城。現在，他們又一次站在一起了。
連日來，華野各縱隊軍政領導人相繼來到曲阜，許多人都乘坐從戰場上繳獲的美式吉普車而來。曲阜一下來了這麼多領導幹部，崗哨比平時增加了幾倍，使這裡的氣氛變得不同尋常起來。
這時，國民黨最高統帥部也十分忙碌。為了弄清豫東戰役、兗州戰役後華東野戰軍的新動向，國防部每天的軍事例會上都少不了分析研究華東戰場的形勢和華東共軍動向。蔣介石也經常不請自到。他們認為，共軍的主要作戰方向在濟南的可能性較大，共軍「有攻濟南之企圖」，並據此制訂了《濟南會戰》計畫，其主要方針是：「將主力分置於隴海、津浦、平漢及漢水、丹江各要點，編組進剿兵團，先充實戰備。