根據林彪的命令，駐在冀察熱遼地區的東北野戰軍十一縱和冀察熱遼軍區的部隊，在東北野戰軍第二兵團司令員程子華、政委黃克誠的指揮下於9月12日打響了大決戰的第一槍。他們的任務是切斷從北平到瀋陽的鐵路北寧線，因為北寧線是聯繫東北與內地的最重要的交通線，是東北敵軍的輸血管。十一縱司令員賀晉年和政委陳仁麒率領著自己的部隊和獨立四師、六師、八師分割並攻佔了北寧線上的昌黎、北戴河、沙後所、綏中等地，完全切斷了北寧線，掃清了灤河以東至北戴河一線各個據點的敵人，為東北野戰軍關門打狗創造了有利條件。
緊接著，四縱從台安出發，九縱從北鎮出發，插向錦州和義縣之間，包圍了錦州以北最重要的據點義縣。當火車將南下部隊運抵阜新之後，三縱和二縱五師立即接替了對義縣的包圍。四縱向南攻克了興城，七縱佔領了高橋、西海口和塔山，切斷了錦州和錦西的聯繫。九縱則攻佔了錦州外圍的重要據點白老虎屯、帽兒山、亮甲山和紫荊山，完成了對錦州的包圍和對北寧線各據點的分割。上述戰鬥，總共用了半個月時間。
在各路大軍開進和作戰之中的9月24日，東北野戰軍總部向各縱隊下達了戰鬥命令：
此次攻打錦州和打援戰役帶有全東北的決戰性質。盼鼓勵全軍指戰員以空前的決心和勇氣來進行這一大戰，不顧任何疲勞與傷亡，準備死打硬拼，指揮員認真掌握戰術原則，把全軍士氣動員高漲起來，堅決反對對我軍強大兵力火力估計不足的右傾情緒和看不到全國對我有利的總形勢，反對疲沓散漫，反對不堅決執行命令等，以爭取這一大戰的勝利。
同一天，東北野戰軍總部又給中央軍委發出電報，其中說：
錦州戰役，可能演化成全東北之大決戰，可能造成收復錦州、長春和大量殲滅瀋陽出援之敵的結果。我們將極力爭取這一勝利。已動員軍隊不怕傷亡，不怕疲勞，準備進行大惡戰。
當我軍完成對錦州周圍的包圍之後，林彪將錦州守敵的情況向中央作了報告：錦州總共有8個師，主力是敵九十三軍和四十九軍；錦西有4個師，主力是敵五十四軍。報告說：「我們已決定先攻錦州再打錦西」。
駐守錦州的范漢傑一直不知道我軍主力在向錦州實施包圍。當我軍已經攻佔了錦州周圍的幾個據點之後，范漢傑派軍隊去收復帽兒山、白老虎屯、亮甲山，原來守據點的有一個師，又派去一個師，兩個師都被我軍打得丟盔卸甲，逃回城來。他這才知道我軍主力已經包圍了錦州，才明白我軍的打擊方向是錦州。
衛立煌急向蔣介石報告，蔣介石當然清楚我軍打錦州的嚴重性，他立即電召衛立煌到南京，要衛立即派出瀋陽的軍隊西進援錦。衛立煌心中當然反對，但不便當面爭吵，就說等回瀋陽後認真研究。蔣介石就派參謀總長顧祝同和衛立煌在9月26日一同飛到瀋陽，要顧祝同監督衛立煌立即派兵增援錦州。衛立煌最怕被圍城打援，特別是從瀋陽西進，其間有遼河、大凌河和饒陽河三條大河，完全可能被解放軍層層截斷，分別包圍，所以他認為現在派兵援錦無異於投食虎口。他只同意從瀋陽空運一個軍支援錦州，並建議顧祝同安排華北軍隊從葫蘆島增援錦州。而瀋陽駐軍的主力九兵團司令廖耀湘則建議趁機將瀋陽和長春的軍隊完全撤進關內，放棄東北。三人爭了一天，毫無結果。第二天，蔣介石來電，仍然要衛立煌將瀋陽軍隊拉出去增援錦州，衛立煌和廖耀湘仍然堅決不同意。衛立煌甚至斬釘截鐵地說，如果葫蘆島方面不出兵，只是由瀋陽方面出兵，「一定會全軍覆沒」，他願和顧祝同立軍令狀。顧祝同與衛立煌是同輩，他無論怎樣用蔣介石的命令來壓，衛立煌還是堅持己見。顧祝同無奈，只好單獨找廖耀湘施加壓力。廖耀湘1926年才入黃埔當兵，而顧祝同早在1924年就是黃埔教官，在顧祝同面前，廖耀湘不能直接頂撞，就說能否先把瀋陽的軍隊調出一部分向新民方向移動，給林彪增加一些壓力，以後怎麼辦，下一步再說。顧祝同只好帶著這個方案回南京向蔣介石彙報。不過，他們三人在瀋陽的這一番爭論，竟然用去了三天最寶貴的、可以說是最要命的三天時間。
就在瀋陽城中顧祝同等人爭論不休的三天中，我攻打錦州前線部隊進一步加強了對錦州的包圍，錦州機場被我炮兵破壞且又在我炮火控制之下，已無法使用；塔山被我攻佔之後，錦州和錦西之間的聯繫已被完全切斷；興城被我攻佔之後，東北敵人與關內的陸上聯繫已被完全切斷；錦州北邊的重要據點義縣已被我包圍。現在，錦州和整個東北的國民黨軍隊與內地的聯繫，除了空中之外，就只剩下了一個葫蘆島海軍基地了。
林彪決定先打義縣。
義縣在錦州以北，距錦州約50公里，與錦州之間有鐵路和公路相通，是錦州北面最重要的戰略據點。從北邊南下的三縱、二縱五師和炮縱主力早已按照林彪的命令將義縣包圍。9月17日，在三縱司令員韓先楚的統一指揮下，我軍開始縮小包圍，掃清攻城的障礙。
義縣守敵是九十三軍的暫編二十師，師長王世高率其部下強迫大批民工在義縣修築了大量工事，加上義縣本身有相當高大的城牆，攻起來並不輕鬆。為了一舉攻破義縣的城防，當我軍在10月1日發起總攻時，東北野戰軍的炮兵司令員朱瑞把近百門榴彈炮擺在義縣城北大凌河的對岸，他要對自己建立起來的炮兵的進攻能力進行一次檢驗，為攻打錦州進行一次預演。當朱瑞的強大炮兵發言之後，義縣守敵根本就沒有了招架之功，高大的城牆被轟垮40多米，我軍衝進城之後只用了半天的巷戰就全部佔領了義縣，生俘了王世高，創造了我東北野戰軍對城市攻堅取得成功所用時間最短的紀錄。
可最令人遺憾的是，就在戰鬥已經結束時，朱瑞為了觀察炮火延伸射擊的具體情況，了解炮轟城牆的火力應當如何改進，他親自來到城牆邊進行實地考察，不幸踩中了敵人的地雷，犧牲在大決戰剛剛打響的戰場上，時年43歲。朱瑞——這位我軍炮兵的主要建立者，他不僅是在東北戰場上，而且是在整個解放戰爭中我軍犧牲的最高級別、最重要的指揮員。毛澤東為中共中央起草的唁電中說：
朱瑞同志在中國人民解放軍的炮兵建設中功勛卓著，今日犧牲，實為中國人民解放事業之巨大損失。中央特致深切悼念，望轉告全軍，繼續為革命戰爭的徹底勝利而奮鬥，以紀念朱瑞同志永垂不朽。
為了紀念朱瑞，東北炮兵學校改名為「朱瑞炮兵學校」。