要打大仗，要攻堅，必須要有遠距離摧毀敵軍工事和集群的強大火力，必須要有自己的炮兵。
我軍從關內進入東北時，不說沒有炮兵，連輕武器都沒有多少。因為聽說日偽軍留下了大量武器可以接收，所以我們不少隊伍為了趕快進入東北，都是輕裝前進。可是，才過了一年多時間，在「三下江南」的時候，我們就有以團為建制的炮兵參戰了。
我軍進入東北後，曾經接收過少部分輕武器，在作戰中也繳獲了大量的輕武器，但重型武器繳獲不多。曾經有一種誤解，認為蘇軍在撤出東北時把若干武器留給了我們。對於這種說法，曾經擔任過第四野戰軍參謀長的劉亞樓上將在1962年12月13日就編寫第四野戰軍戰史問題的一次講話中，說過一段很重要的話：
一般人總認為蘇軍留給了四野不少武器，這是誤解。這個戰史既然是存檔用的，可以把這個問題講清楚。當時不僅不給我們武器，還吃掉了我們不少部隊。也可以寫一下當時斯大林是為了照顧與國民黨的關係。還有個重要問題：當時我們曾向中央建議，以中央的名義向蘇軍要些武器。毛主席當即電示，中國革命主要靠中國自己的力量，禁止用中央的名義向他們要東西。這個電報我親自看過，要查一下。後來以四野的名義用糧食和他們換了一些武器，用紅軍票子到大連買黃金，購買了一些武器。朝鮮同志不錯，賣給我們一些武器。當時我曾兩次去朝鮮談判，朱瑞同志曾同我去過一次。
我東北民主聯軍的炮兵隊伍是靠自己白手起家、艱苦奮鬥創立起來的。為了準備大反攻，剛建立起來的炮兵部隊擔負了更為艱巨而繁重的任務。
談到東北的炮兵，就不能不讓我們深切緬懷我軍炮兵事業的奠基人和領導者朱瑞。
朱瑞和他的同志們白手起家創建炮兵是非常不易的。當他們進入瀋陽，當他用熟練的俄語與蘇軍統帥馬林諾夫斯基談判接收日軍留下的火炮時，竟然遭到拒絕。在這種情況下，朱瑞帶領炮校全體同志分散到山林雪野中各處去找，進行零星收集，無論是完整的、不完整的，破爛的、裝配不上的，凡是可能有用的東西都要。在各部隊的支持下，終於找到不少東西，全部集中到南滿的通化，炮校也在通化正式開學，以後又遷移到北滿的牡丹江，開始了東北炮兵的艱苦創業。當時炮校的辦校方針就是「分散幹部，搜集物資，建立家業」，其主要任務仍然是千方百計尋找火炮。只要有點線索，哪怕是零下四十攝氏度的林海雪原，也要去碰碰運氣。例如，在鏡泊湖的冰層下邊，就曾刨出了三門大炮。
為了加快東北的炮兵建設，林彪讓朱瑞起草了《炮字第一號命令》，在1946年7月9日以林彪、高崗、彭真、朱瑞、邱創成（炮兵學校政委）五人的名義下達到東北的所有部隊。命令傳達了毛澤東所說的「沒有炮兵便沒有勝利」和朱德所說的「炮兵為建軍骨幹」的重要論述，然後著重指出：
我黨的建軍與作戰指導，現正處於走向正規化與正規戰的過渡。標誌這一轉變之基本的與最重要的設施之一，便是炮兵。編成一定數量的炮兵，並使之與步兵及其他兵種正確協同作戰，不但將改變我軍的組織機構，也將改變我軍的作戰和戰術形式，因而也會根本改變我軍作戰的指導方針（從游擊戰、運動戰到正規戰、陣地戰）。堅定明確地把握住這一轉變，是我軍在建軍途徑上獲得成功的關鍵。
1946年10月9日，東北民主聯軍總部又下發了《炮字第二號命令》，任命朱瑞為炮兵司令員，邱創成為政治委員，賈陶為副司令員，匡裕民為副司令員兼參謀長，從此東北有了統一的炮兵領導機關和指揮系統。
通過種種努力，到1947年2月，我東北民主聯軍終於有了各種火炮700多門，坦克及牽引車65輛，訓練出了一批專業人才，從1945年只有5個炮兵連，發展到有了100個炮兵連和60個步兵迫擊炮連，還有1個修炮廠。1947年3月，在雙城召開了東北我軍第一次炮兵會議，對我炮兵第一次拉出去參加「三下江南」戰役中的得失進行了認真總結。到這時候，我東北民主聯軍第一支現代化的炮兵部隊（也是我黨所領導的整個革命軍隊中的第一支成規模的炮兵部隊）終於初步建成。
第一次炮兵會議之後，東北炮兵本著「廣泛普遍地發展與適當地集中整編使用」的原則，有了更快發展。這一方面原因是各部隊的普遍重視，炮兵學校培養的骨幹和各部隊自己培養的骨幹日益增多（根據炮兵會議的精神，各部隊還有意收集和改造了不少俘虜中的炮兵人才為我所用）；另一方面原因是由於我軍兵工廠的增多，修制出的火炮和製造出的彈藥大量增加，陸續裝備了各炮兵部隊。所以，當大決戰開始時，我東北野戰軍不僅是每個團有自己的炮兵連，每個縱隊有自己的炮兵團，野戰軍還有了炮兵縱隊。在這支炮兵隊伍中，不僅有山炮、榴彈炮、野炮、加農炮、高射炮、迫擊炮，還有坦克、戰車。這樣，就為我軍的大兵團攻堅作戰提供了有力的火力支持。