抗戰勝利後的時局飛速發展，原有的地方軍政機構已不能適應新形勢的需要。中央考慮重新組合各根據地，建立新的中央局和軍區。「七大」結束後，中央就在醞釀這方面的工作，進行人事安排。
晉冀魯豫根據地是當時全國7個較大的抗日根據地之一。包括太行、太岳、冀魯豫、冀南4個分區。所轄地域西起同蒲鐵路，與晉綏根據地相鄰；東至津浦鐵路，與山東根據地相接；北至正太路、石德路，與晉察冀根據地相依；南至黃河。到抗戰勝利時，這4個分區基本上已連成一片，控制了80多個縣城，擁有2400萬人口，軍隊近30萬人，民兵40萬人左右。這個戰略區處於與其他根據地四面呼應的中間地帶，又是華北的大門，正堵住國民黨軍隊的北進之路。用劉伯承的話說，這個地方是「四戰之地」。
正是看到晉冀魯豫地區的重要性，8月20日中共中央決定：撤銷原來的中共中央北方局，成立晉冀魯豫中央局，鄧小平為書記，薄一波為副書記。在中央局領導下成立晉冀魯豫軍區，司令員劉伯承、政治委員鄧小平，第一副司令員滕代遠、第二副司令員王宏坤，第一副政治委員薄一波、第二副政治委員張際春，參謀長李達，政治部主任張際春，副主任王新亭。
晉冀魯豫中央局和軍區建立後，中共中央又對各軍區的人事作了安排調整。人事調整完畢後，形勢的飛速發展令各戰區的領導人和主要將領在延安坐卧不安，急切盼望立即回到各自的崗位上去。前方也一再催促首長們儘快回來。晉冀魯豫軍區參謀長李達致電劉鄧：「組織大軍與指揮強大野戰軍，急需主要幹部，請帶陳錫聯等同志回太行。」
這時，恰巧有一架美軍觀察組的飛機從西安飛到延安執行公務。中央緊急決定：劉伯承、鄧小平、林彪、陳毅、陳賡、薄一波等將領搭乘美軍運輸機返回各自地區。
1945年8月25日凌晨一二時許，那架破舊的美製道格拉斯運貨機穿雲破霧，越過夜空，最後停在了晉東南黎城長凝臨時機場。
晉冀魯豫軍區參謀長李達派了一個騎兵排來接劉鄧首長和軍區的各位領導。林彪、陳毅等則將從這裡轉赴其他戰略區。
劉鄧和軍區的首長們一下飛機，就直接來到涉縣赤岸村晉冀魯豫軍區司令部駐地，急奔作戰室。
劉伯承一邊聽取參謀們的彙報，一邊在作戰地圖上做著標記，嘴裡念叨道：
「這個史澤波速度夠快的啊！你們看，他已佔領了上黨6城，把他的長官部設在長治，放兩個師1萬餘人，周圍長子、屯留也設有重兵，分別是1000至2000餘人，襄垣、潞城、壺關是保安部隊，在千人以下。看樣子他已經完成了防禦體系，下一步就要進犯晉東南，攻打太行山嘍。」
當劉伯承說道：「蔣軍直接沖我晉冀魯豫解放區開來的，共有兩路大軍。一路是胡宗南，有3個軍，北渡黃河，沿同蒲線北進；另一路是孫連仲，有7個軍，正在鄭州、新鄉集結，準備打通北漢線。我們這第一仗，該怎麼打呢？」
剛下飛機的軍區和縱隊首長們七嘴八舌地說開了。意見可分為兩方，一方說，要先打上黨，以免形成背腹受敵、虎狼夾擊之勢；另一方則說，現在國民黨大軍壓境，應該集中精力對付強敵，倘若平漢線有失，一著不慎，滿盤皆輸，問題就大了。
作戰室里煙霧繚繞，指揮員們的思路彷彿就如這煙霧，糾纏一起，雙方意見相持不下，一時很難統一。
赤岸村的雄雞此起彼伏地叫開了，天差不多亮了。討論了半宿，也沒有形成統一的意見。奔波了一夜的將軍們也確實有點累了，有的乾脆打起了哈欠。劉鄧便說：「大家先回去休息吧，關於這一仗怎麼打，我們再開會研究決定。」
等大家都走了，劉、鄧兩主帥卻仍無睡意。
劉伯承在房中緩緩踱步，沉思道：「看來，是否發起上黨戰役，這個決心還很難下啊。不過，我看在上黨打一仗，時間上還來得及。胡宗南正忙著分兵，可暫時放著。關鍵是孫連仲，他原來在鄂西，有十幾萬人，臨時轉身北上，談何容易。沒有1個月來不了。有這1個月，我們就可以打上黨，1個月內打不下來，就先放著，把它周圍掃清了，由地方部隊把它圍困起來。」
鄧小平道：「我看可以，先打上黨，再回師平漢線。」
劉伯承當即要通了正在武鄉縣段村指揮攻打日偽據點的李達。李達顯然也是一夜沒睡，說話的聲音有些嘶啞。
簡單交談幾句之後，劉伯承用毋庸置疑的口氣對李達說：「你當前首要任務，是要儘快攻下襄垣，在上黨的北面打開一個缺口，而後就地集結太行軍區部隊主力，以便會合太岳、冀南軍區部隊，準備進行上黨作戰。」
主意拿定了，第三天，劉鄧再次召集各路將領開會，統一認識，進行部署。
赤岸村軍區作戰室其實就是一間普通的民房。這些指揮千軍萬馬的將軍們有的圍著八仙桌就坐，有的隨意找條長凳坐下來。每人面前一大海碗白開水。
劉伯承開門見山，道：「蔣介石的軍隊沿四條鐵路開進，四個爪子伸開向我們撲來。人家的足球向我們華北解放區的大門踢來，我們要守住大門、保衛華北解放區，掩護我東北解放區戰略展開。的確，平漢、同蒲是我們作戰的主要方向，但現在的問題是，閻錫山侵佔我上黨6城，這好比在我們的背上插一把刀子，我們芒刺在背，脊骨發涼，不拔掉這把刀子，心腹之患未除，我們怎麼放得下心分兵平漢、同蒲去守大門呢？」
鄧小平的話不多，但字字擲地有聲。他說：「根本問題是抗戰勝利果實落到誰手裡的問題。蔣介石、閻錫山伸手來搶，絕不能讓他們搶走。」
劉伯承指著陳賡、陳錫聯、陳再道，說：「你們『三陳』都在這裡，這就是本次戰役的基本力量。我們過去是打游擊戰，現在要打集中的運動戰了，打慣了小仗，現在匆忙上陣，要打大仗了。我們還能不能贏，就看你們的了。朱總司令本月9日在延安發出大反攻命令後，我立即給太行、太岳、冀南、冀魯豫各軍區發出電示，要求你們迅速擴充兵力，儘快集中分散作戰的部隊，形成野戰兵團，我們現在是邊打、邊建、邊練，儘快組成太行、太岳、冀南3個野戰縱隊，保證上黨戰役力量需要。現在就是看誰集中得快，集中起來了，形成了拳頭就是勝利。」
鄧小平接著說：「主要在你們縱隊一級指揮員。要打就打好，打不好的換指揮員。事先講明，要令行禁止。這是大兵團作戰，個人不能隨心所欲。你們馬上回部隊進行戰鬥動員。」
上黨戰役的決心就這樣定了下來。