要準備大決戰，擴大和整訓部隊、提高部隊戰鬥力，特別是大兵團作戰的協調能力和大中城市的攻堅能力，當然是東北局工作的重點。
首先是要對部隊補充兵源，擴大部隊。由於這時根據地的建設已經取得很大成績，所以我軍擴軍的主要方式是動員翻身農民參加地方部隊，再由地方部隊到主力部隊，而不再是剛到東北時那樣以改造俘虜兵為主。1946年8月29日，東北局發出了《關於補充主力加緊作戰準備的指示》，指示說：
沒有強大的主力，並使它得到源源不斷的兵源補充，就不能有效地、連續地打擊和殲滅敵人，因此也就不能鞏固地方部隊，確保根據地及群眾鬥爭的果實。因此地方黨、地方兵團的同志應當自覺當所謂「兵販子」，認清源源不斷地補充主力，正是地方黨與地方兵團的責任。
各省委應負責在每個工作區從自己的地方兵團、縣大隊和獨立營中，抽調出2000到2500人的建制部隊補充各該工作區的主力部隊，以保證每一主力師、旅除充實現有三個團外，另增編一個補充團，充實該師、旅到1萬人左右。
當東北局的指示下達並逐步貫徹之後，各地開始向主力部隊補充新戰士。但由於當時作戰任務很重，新戰士一參軍就可能上戰場，不可能有訓練的時間。而地方部隊和縣大隊中有一些成員是不脫產不離家的，並未經過嚴格的軍事訓練，不能適應陣地戰的要求。於是，東北局在此基礎上又做出了進一步的決定，在各地組建二線兵團。其辦法是以部分主力部隊的幹部和老兵為骨幹，將自願參軍的農民和工人直接組建為獨立團，進行訓練。訓練要求必須按民主聯軍總部所頒發的《獨立團軍事教育計畫》進行，待達到要求之後，再補充進主力部隊。這一計畫從1947年8月開始進行，半年的時間，就組建並訓練了88個獨立團，共22萬人，達到了很好的效果。從開始組建獨立團到遼瀋戰役結束，東北共組建了189個獨立團，總人數達42萬人，保證了東北解放戰爭的勝利。
在積極從翻身農民中發展兵源的同時，東北民主聯軍並沒有放棄對大量俘虜兵的改造，特別是在出了一八四師叛逃的事件之後。
前面已經談到，1946年5月在南滿的鞍海戰役中，當我軍進攻海城時，國民黨的滇軍第六十軍的一八四師在潘朔端師長的率領下宣布起義。起義之後，被編為民主同盟軍，開到通化地區進行學習整訓。由於對這支部隊的教育改造工作做得不夠，對其中一部分思想頑固的反動分子有些遷就，特別是未能及時派去政治工作幹部做政治工作，讓一部分思想頑固的反動分子在原副師長楊朝倫的串通下，抱成了一團。當1946年10月國民黨軍隊向我通化地區發起進攻時，楊朝倫等人認為我軍不可能打勝，就違反了潘朔端的命令，拉了1000餘人叛逃了。
一八四師叛逃事件給東北局和各部隊敲響了一次警鐘，決定要認真總結這次深刻的教訓，重視並改進對俘虜和起義人員的改造教育工作。
當「三下江南」結束之後，就把大批被俘的國民黨軍官集中起來辦了「哈爾濱解放軍官教導團」進行集中教育改造。1948年1月，東北野戰軍政治部還在譚政主任的主持下專門召開了「國軍工作座談會」，重溫中央對俘虜工作的指示，研究俘虜工作中所存在的問題，討論了若干有關的政策和方法。自此以後，東北各部隊再也未出現過一八四師叛變這樣的事件，不少解放戰士參加我軍並成為很好的革命戰士。如1948年9月攻打錦州時，在全班打得只剩一個人的情況下，高舉兩顆手榴彈沖入敵陣與敵人同歸於盡的戰鬥英雄姚尚雲，就是1947年被我九縱七十四團俘虜過來的解放戰士。我軍專門改造國民黨軍官的哈爾濱解放軍官教導團先後有15533名被俘國民黨軍官前來學習，其中僅中將就有29人，少將210人，上校397人，中校、少校1484人。經過教育改造，最後只有76人送入撫順戰犯管理所繼續改造，其餘的陸續走出了教導團，有的回家，有的參加工作，也有的參加了人民軍隊。還有的出去之後就到國民黨軍隊中做策反工作，讓他們放下武器，起義投誠。所有這些，都充分顯示了我軍改造俘虜所取得的顯著成效。
在1947年底，我軍在東北的主力部隊人數已經與國民黨軍持平。到1948年4月，主力部隊加上二線兵團總計已經達到98.8萬人，成為一支名副其實的百萬大軍，形成了對國民黨軍的絕對優勢，為大決戰做好了最重要的準備。
為了適應形勢不斷發展的需要，使部隊能進行更大規模的作戰，從1947年夏天以來，民主聯軍總部對整個東北的部隊編製陸續進行了調整，擴充補足老的部隊，組建新的主力縱隊。1948年1月1日，根據中央軍委命令，東北民主聯軍正式改稱為東北人民解放軍。東北人民解放軍包括東北軍區和東北野戰軍兩個系列，但是只有一個統一的總部，現將東北人民解放軍的領導幹部與截至1948年4月的編製序列簡介如下（按：由於當時部隊在擴編之中，幹部調動比較頻繁，所以下列幹部名單中有個別重複）：
東北軍區司令員兼政治委員林彪。
第一副司令員高崗。
第一副政治委員羅榮桓。
副司令員呂正操、周保中、蕭勁光。
副政治委員陳雲、李富春。
參謀長劉亞樓，副參謀長伍修權、曹祥仁。
政治部主任譚政，副主任周桓。
後勤部部長李富春（兼）。
東北軍區之下分為十二個軍區：
安東軍區司令員程世才，政委江華，副司令員沙克。
遼寧軍區司令員張學思，政委白堅，副司令員解方、趙傑，副政委劉惠農。
遼南軍區司令員陳奇涵，政委張秀山，副司令員邊章伍、副政委林一山。
吉林軍區司令員周保中，政委陳正人，副政委唐天際。
遼吉軍區司令員聶鶴亭，政委陶鑄，副司令員高鵬、蔡斯烈，副政委彭嘉慶。
龍江軍區司令員葉長庚，政委王鶴壽，副司令員關慶寰。
嫩江軍區司令員朱滌新，政委劉錫五，副司令員趙承金。
松江軍區司令員陳光，政委張策，副司令員李壽軒。
合江軍區政委洛甫（張聞天），副司令員李荊璞、楊梅生，副政委張啟龍。
牡丹江軍區（1948年7月撤銷）政委何偉，副司令員田松。
內蒙古軍區司令員兼政委雲澤（烏蘭夫）。
冀察熱遼軍區司令員程子華，政委黃克誠，副司令員李運昌、副政委黃火青。
在冀察熱遼軍區之下，又有三個軍區：
熱河、冀熱察、冀東。
東北野戰軍與東北軍區是一個領導機關，但由於軍區和野戰軍在有些工作上仍有分工，所以領導幹部的名單上稍有不同。在野戰軍中林彪只擔任司令員，政委由羅榮桓擔任（這就是人們一般又把東北野戰軍或日後的第四野戰軍稱為「林羅大軍」的由來），參謀長劉亞樓，政治部主任譚政，不設副司令員、副政委、副參謀長、政治部副主任。不同的是野戰軍的後勤部長兼政委是鍾赤兵。到大決戰開始之前的1948年8月14日，根據中央軍委的指示，為了集中力量打大仗，東北人民解放軍進行了一次上層的整編，將野戰軍總部和軍區總部的司令部、政治部、後勤部這三大部分開，成了兩個系列。從此，林彪、羅榮桓和劉亞樓就全部心思在前方打仗，後方軍區機關的工作都交給高崗、陳雲、李富春等同志負責。
東北野戰軍所屬野戰部隊的編製序列有：
前方第一指揮所（後改稱第一兵團，東北野戰軍的前方指揮所和兵團與後來四野的兵團不同，其下並不直屬固定的幾個縱隊，而是根據戰局的需要，由總部決定在一定時期或某一戰役中，指揮哪些部隊）司令員蕭勁光（兼），政委蕭華，副司令員陳伯鈞，副政委唐天際，參謀長解方。
前方第二指揮所（後改稱第二兵團）司令員程子華（兼），政委黃克誠（兼），副司令員彭明治，參謀長黃志勇。
東北野戰軍這時共有12個主力縱隊和一些其他部隊：
一縱司令員李天佑，政委梁必業，副司令員曹里懷。
一縱下轄三個師：一師師長江擁輝，政委吳岱；二師師長賀東生，政委劉興元；三師師長彭景文，政委劉賢權。
二縱司令員劉震，政委吳法憲，副司令員吳信泉。
二縱下轄三個師：四師師長陳金玉，政委李雪三；五師師長吳國章，政委賀大增；六師師長張天雲，政委石瑛。
三縱司令員韓先楚，政委羅舜初，副政委劉西元。
三縱下轄三個師：七師師長鄧岳，政委李伯秋；八師師長左葉，政委劉光濤；九師師長徐國夫，政委譚開雲。
四縱司令員吳克華，政委莫文驊，副司令員胡奇才，副政委歐陽文。