為了適應新的形勢，根據中央關於「迅速在西滿、東滿、北滿劃分軍區和軍分區，將軍隊劃分為野戰軍和地方軍」的指示，為了便於「分散安家」，也為了對各部隊進關以來編製、番號較為混亂的局面加以整編，東北局首先將部隊做了重新編製。
1946年1月4日，經中央軍委批准，東北人民自治軍改稱為東北民主聯軍。總司令林彪，副總司令呂正操、周保中、蕭勁光，第一政委彭真，第二政委羅榮桓，第一參謀長蕭勁光（兼），第二參謀長伍修權，政治部主任陳正人，總後勤部部長葉季壯、政委楊至誠。這時候，東北民主聯軍的總兵力已有27萬人。為了作戰的需要，東北民主聯軍總部又分設前方總部（簡稱前總）和後方總部（簡稱後總），這時後總設於本溪，前總則隨林彪赴遼西前線。
在東北民主聯軍總部之下，成立四大軍區：
北滿軍區（也稱吉黑軍區）司令員高崗，政委陳雲，參謀長李天佑。北滿軍區之下又設五個軍區，即合江、牡丹江、松江、嫩江、龍江軍區。軍區直屬部隊是第七師（由山東來的第七、八兩師和冀熱遼來的第十九旅合編），師長楊國夫，政委劉其人。
西滿軍區（也稱遼熱軍區）司令員呂正操，政委李富春、黃克誠（不久改任司令員）。西滿軍區之下又設兩個軍區，即遼西、嫩南軍區。軍區直屬部隊是第三師（原新四軍第三師），師長兼政委黃克誠（兼），副師長劉震、洪學智。
南滿軍區（也稱遼東軍區）司令程世才，政委蕭華、江華，副司令員羅舜初、曾克林，副政委莫文驊、唐凱，參謀長羅舜初（兼）。南滿軍區之下又設安東軍區。軍區直屬部隊是三縱和四縱，三縱（以山東來的第三師和另外三個旅組成）司令員程世才（兼），政委羅舜初（兼）；四縱（由山東來的第六師和第五師組成，初期稱為二縱和三縱，不久合編為四縱）司令員吳克華，政委彭嘉應，副司令員胡奇才、韓先楚。
東滿軍區（也稱吉遼軍區）司令員周保中、政委林楓，副司令員陳光，副政委張啟龍，參謀長陳光（兼）。東滿軍區之下又設三個軍區，即通化、吉東、遼北軍區。軍區直屬部隊是七縱和吉黑縱隊，七縱（由山東來的東北挺進縱隊改編）司令員萬毅，政委周赤萍；吉黑縱隊司令員曹里懷，政委郭峰。
東北民主聯軍總部直屬部隊是由山東過來的梁興初任司令員、梁必業任政委的第一師，是林彪很熟悉的當年八路軍一一五師的老部隊。此外總部之下還有賈陶任旅長的炮兵旅、三個軍事學校（軍政大學、航空學校、炮兵學校）。
各部隊在東北局各分局和各軍區的安排下，都避開了與敵人的正面作戰，分散到鄉村去發動群眾，消滅土匪，懲辦漢奸，開展清算鬥爭（清算漢奸和偽軍的罪行，收回被他們霸佔的土地和糧食，分給貧苦農民），減租減息，建立政權，組織游擊隊和民兵。
在清算鬥爭的基礎上，各地逐步開始分配開拓地和滿拓地（即日本拓務省和偽滿拓政司組織的各種開拓團所奪占的土地，這在東北農村數量不少，很多縣都在三分之一以上，最高的在80％左右）給農民。1946年3月20日，東北局發出《關於處理日偽土地的指示》，決定「所有東北境內一切日偽地產、開拓地、滿拓地，以及日本人和大漢奸所有地產，應立即無代價地分配給無地和少地的農民、貧民所有」。於是東北全境開展了分田運動。1946年5月，中共中央下達《關於清算減租及土地問題的指示》。不久，東北局「七七決議」傳達到整個東北，凡是我黨控制的地區都掀起了大規模的土地改革運動，截至1947年2月，東北地區（南滿除外）共有400萬農民分得土地3160萬畝，平均每個農民分得8畝左右。
東北局在不斷總結各地經驗教訓的基礎上，隨著解放區的擴大，不斷把土地改革運動推向深入。1947年秋天，彭真專門回西柏坡村參加了中共中央召開的全國土地會議，將《中國土地法大綱》帶回東北，進一步檢查了各地在土地改革中的不良傾向，糾正了一些地方出現的「左」
傾錯誤，並在土地改革的基礎上開展生產運動。東北各解放區的土地改革一直到1948年春天基本結束，所有貧苦農民人均都分到了7～12畝土地（當時東北還處在地廣人稀的時期，老百姓還習慣於廣種薄收，有的地方還是輪作式的耕作，所以佔有的土地都比較多），每40～70畝土地有一頭耕地的牲畜。東北農村這一場暴風驟雨式的運動，保證了東北解放戰爭的勝利。正如後來陳雲同志所說：
由於東北進行了土地改革，貧苦農民翻了身，我們黨才能在東北站住腳，紮下根，我們的部隊才可能有那麼充足的兵源，那麼充足的糧草來和美式裝備的國民黨軍隊較量。
剿匪是東北農村中另一個重要任務。東北歷來就以土匪多而名聞全國，過去的土匪是以佔山為王、打家劫舍的「鬍子」為主，現在的土匪則是以國民黨派遣人員聯繫的偽滿軍警、地主惡霸和鬍子合流的政治土匪為主。據統計，當時東北的土匪分為16個系統，都屬於政治土匪，其中有國民黨以各種名義所委任的正副「總司令」、「總指揮」32名，「軍長」33名，「師長」158名。他們趁日軍投降、蘇軍只在大城市、我軍初到東北不熟悉環境的機會，大肆發展，為所欲為，不僅殺害我軍和我黨幹部，竟連一個整排的蘇軍也敢殺害。我東北局成員、中央政治局委員張聞天和我黨新委任的合江軍區司令方強於1945年12月在蘇軍的護送下，乘汽車從牡丹江到佳木斯途中，就曾被土匪伏擊，差點犧牲。
我東北部隊以三分之一的兵力投入剿匪，用追剿、堵剿、駐剿相結合的辦法窮追猛打，力求斬草除根。1946年6月，東北局又專門下達了《剿匪工作指示》，進行了新的部署，全東北的剿匪工作由民主聯軍總部統一指揮進行，重點是在北滿。著名的偵察英雄楊子榮活捉「座山雕」的事迹，就是在北滿發生的。
從1945年底開始，一直到1947年春，我軍與各路土匪作戰1300多次，共殲滅匪徒7.9萬多人，繳獲各種槍支5萬多支，使我軍在東北農村中解除了後顧之憂。