1949年4月21日，毛澤東、朱德發布了《向全國進軍的命令》。全國各戰場上，人民解放軍進入戰略追擊階段。
以彭德懷為首的中國人民解放軍第一野戰軍，在毛澤東、中央軍委的指揮下，加快了解放大西北的速度。5月20日解放古城西安。7月10日發起扶眉戰役，取得了兩晝夜殲敵4個軍的勝利。敵胡宗南主力被殲，殘部退守秦嶺。青海馬步芳部和寧夏馬鴻逵部被徹底孤立。彭總根據毛澤東的指示，乘勝發起了對青、寧「二馬」的追擊殲滅戰。
青馬、寧馬分別退守蘭州、銀川。青馬以西北「霸主」自居，處處爭權奪利，致使寧馬與其多有不睦，大有坐山觀虎鬥之勢。彭總分析了戰局後認為，消滅馬步芳之主力，是解決西北國民黨軍，乃至解放大西北的關鍵。因此決心集中兵力舉行蘭州戰役，與敵決戰，徹底殲滅馬步芳反動勢力。
8月4日，彭德懷向各兵團發出了關於進軍蘭州殲滅青馬的命令：以二兵團3個軍和十九兵團2個軍分兩路包圍進攻蘭州；由一兵團主力(欠七軍)附六十二軍沿渭河北上，經天水、臨洮進佔臨夏，突破敵右翼進入青海東南部，向其老巢展開迂迴，隨時準備發起向西寧的攻勢，並攔擊和殲滅從蘭州逃竄之敵，爾後西渡黃河，直取西寧。另以十八兵團主力(欠六十二軍)及第七軍在天水、寶雞一線牽制胡宗南部；以六十四軍於固原一帶，牽制寧馬援蘭兵團和靖遠、景泰蔣系的兩個軍。這樣就給青馬布下了天羅地網，使其無法逃脫被殲的命運。
蘭州，是國民黨西北軍政長官公署所在地。在胡宗南敗逃陝南以後，蔣介石把指揮西北反動軍隊的大權交給了馬步芳。馬更深知蘭州決戰是其生死存亡的關鍵，因此將其主力全部用於防守蘭州。8月19日，馬步芳參加國民黨召集的西北聯防會議後從廣州匆匆趕回蘭州，親自部署一切。命令其戰鬥力最強的八十二軍和一二九軍2個主力軍共5萬人據守蘭州；以九十一軍、一二○軍、八十一軍共2萬餘人為左翼，于靖遠、景泰沿黃河及打拉池地區防禦；以新成立的騎兵軍共2萬人為右翼，控制臨洮、洮沙地區。
在蘭州布防上，馬步芳把作為蘭州天然屏障的南山一帶作為阻擋我軍進攻的主要陣地。讓其一○○師在蘭州東南十里山、竇家山、馬家山、古城嶺、大頂山一帶防禦，第二四八師與一○○師相接，在皋蘭山、營盤嶺一帶防禦，一九○師在沈家嶺、狗娃山一帶防禦。在這些主要陣地上，築有鋼筋水泥碉堡群，陣地外有1～2道削壁，高約6～10米，削壁腰部設有暗藏的側射機槍掩體，削壁外面挖有幾道外壕，寬深均為3～4米，各壕間又有暗堡和野外工事，並有交通溝和暗道相通。陣地前還敷設鐵絲網，並密布地雷群。敵人為此把蘭州吹噓為「攻不破的鐵城。」
我軍要全殲守敵，關鍵是奪取蘭州的主要屏障——南山，控制敵人的惟一退路——黃河鐵橋。8月21日拂曉，解放軍第二、十九兵團集中9個團對馬家山、營盤嶺、狗娃山發起試攻，但由於敵人憑藉有利地形和堅固的工事頑抗，結果激戰一日未克。彭德懷司令員決定停止攻擊，用三天時間，進行動員，總結經驗，偵察敵情，查看地形，研究改進戰法。彭德懷和各兵團首長認真總結經驗教訓，重新調整部署了作戰任務；六十三軍攻擊東崗、十里山、竇家山陣地，得手後向響水子沿河警戒；六十五軍進攻馬家山、古城嶺敵一○○師陣地，殲敵後向城東關推進；第六軍進攻營盤嶺敵二四八師陣地，爾後向城南關發展；第四軍向沈家嶺、狗娃山敵一九○師陣地進攻，後向城西關前進；第三軍向七里河進攻，並以第七師配合兄弟部隊攻佔狗娃山後，沿黃河南岸東進，奪取黃河鐵橋，第九師攻佔七里河地區並配合第七師奪取西關，控制黃河鐵橋，第八師封鎖蘭新公路重要山隘。
攻擊前夕，彭總多次親臨前沿陣地，觀察地形，與進攻部隊商議作戰方案。一天，彭總來到六軍軍部所在地邵家泉。這裡位於蘭州正南方向，可以看到即將進攻的皋蘭山的概貌。彭總登上對面的山頭，站在一個高坎上，舉起望遠鏡向皋蘭山瞭望觀察。皋蘭山以營盤嶺為最高，能否拿下它，是六軍能否勝利完成這次戰鬥任務的關鍵。
彭總指著營盤嶺下面一個名叫下庄的村子對軍長說：「根據這個地形和敵人設防的重點，你們要很好地組織偵察弄清敵人火力，再好好研究一下，如何從正面突破。」當軍長向彭總提出作戰的想法：主攻部隊在強大炮火支援下從下庄正面攻擊，以少數兵力從側翼助攻，吸引敵人火力，正面得手後再入兩翼投入兵力。彭總點了點頭說：「這樣才好。」
8月23日，彭總來到六十三軍前沿陣地觀察，就地召開了準備擔任主攻部隊師以上幹部會議，總結試攻的經驗教訓，部署下一步作戰任務。彭總說：「蘭州戰役關係到西北解放的全局。
一定要不惜一切代價拿下來。竇家山是蘭州的東大門，一定要把它打開。」又說：「馬步芳軍隊為今日敵軍中最有戰鬥力的部隊，在全國也是有數的頑敵，我們對它要有充分的估計，並作充分的精神準備，力戒輕敵驕傲急躁。進攻中，須充分準備殲滅敵人反衝鋒部隊，組織消滅敵人反衝鋒火力，構築抗擊反衝鋒工事。」
彭總來到十九兵團指揮所，對兵團司令員、政委說：「部隊試攻受阻，其主要原因是輕敵，次要原因是敵工事堅固，敵人頑強。」「不過，通過試攻，也達到了了解敵人的目的。你們要告訴部隊沉住氣，總結經驗教訓，仔細研究敵人，扎紮實實地做好準備工作，待命向敵人發動總攻。」
8月25日拂曉，三顆紅色信號彈騰空而起，劃破清晨的寧靜。總攻蘭州的戰鬥開始了！解放軍強大的炮火向盤踞在沈家嶺、狗娃山、營盤嶺、馬家山的敵人主要陣地開始猛轟。霎時萬炮齊鳴，天崩地裂。敵主陣地淹沒在一片火海之中。經過30分鐘炮火的猛烈轟擊，敵人的大炮變成了啞巴，敵陣地上屍肉橫飛，一片混亂。在炮火的掩護下，解放軍突擊部隊發起攻擊，擊退了敵人一次又一次反撲，一步一步向前推進，經過激烈的爭奪戰，到下午7點，敵軍全線潰退。解放軍發起追擊，在市區展開巷戰，殲滅大量敵人。26日中午，解放軍佔領黃河北岸的白塔山，城內殘敵全部被殲，蘭州宣告解放。經過30多小時的激烈戰鬥，解放軍共殲滅敵軍2 7萬多人，使馬步芳主力遭到毀滅性的打擊。
蘭州戰役剛一結束，彭總高興地說：「馬步芳這一次給我們辦了一件大好事。要是他當初丟下蘭州繼續撤退，想消滅他還真得費點時間呢！他想用一計把我們消滅在這兵家必爭之地的蘭州。但是，他萬萬沒有料到，我們卻將計就計來了個釜底抽薪。」
向蘭州背後進行迂迴包圍的第一兵團，經過長途跋涉，於9月2日，佔領民和縣和河口鎮，9月5日佔領了馬步芳的老巢——西寧。馬步芳在青海的反動統治被徹底推翻。
在蘭州，人民政府和各界人民對親人解放軍進行了聲勢浩大的慰問活動。中央和西北各省都派來了文藝團體進行慰問演出。在「三愛堂」慰問大會上，慰問團總團長代表西北五省人民，向彭總贈送了錦旗。彭總代表第一野戰軍和西北軍區全體指戰員在致答詞中說：「西北解放，……是黨的勝利，人民的勝利！人民政府和各族人民高度讚揚我們，熱情慰問我們，是對子弟兵的愛戴和鼓勵，我們切不可以功臣自居，務須力戒驕傲。」
看了看歡天喜地的人群，彭總繼續說：「西北解放了，新中國成立了，但是革命尚未成功，任務還非常艱巨。……我們決不能鬆懈鬥志，刀槍入庫，馬放南山，必須緊握手中槍，為人民再立新功！」在慰問活動期間，彭總夫人浦安修將慰問團送給彭總的糖果分送給司令部的同志們，她說：「彭總說了，這是慰問大家的，我彭德懷只是一個代表，沒有大家的努力，我彭德懷能打勝仗嗎？」