1948年8月中旬，馬繼援將其主力撤回蘭州後，彭德懷指揮第一野戰軍乘勢奮勇前進，很快就從東、西、南三面把蘭州古城緊緊地包圍起來。
這樣，馬步芳做「西北王」的美夢就開始破滅了。
當時，第一野戰軍兵臨蘭州城下的共有5個軍，即許光達指揮的第二兵團之第三軍、第四軍、第六軍；楊得志指揮的第十九兵團之第六十三軍、第六十五軍。彭德懷的部署是，以第四、第六、第六十三、第六十五軍攻城，第三軍為總預備隊。
彭德懷把野戰軍司令部的指揮所設在蘭州東南的喬家灣。這裡離前沿陣地很近，連槍炮聲也清晰可聞。
彭德懷指揮作戰，習慣於把指揮所盡量靠前。他常說，打仗靠地圖和電話指揮不靈。因此，他還有一個習慣，就是每逢大戰，總愛往陣地上跑，而且事先不打招呼，說來就來，常常把一些師長、團長們弄得不知所措。
當年的一些老同志回憶說，打蘭州時，彭老總往前面跑的次數最多，幾乎把所有的前沿陣地都跑遍了。
野戰軍司令部進至喬家灣後，急性子的彭德懷沒等指揮所完全安頓好，就立即跑到前面，親自把蘭州外圍「馬家軍」的一些主要陣地觀察了一遍。他發現，蘭州北臨黃河，東、南、西三面被東崗坡、皋蘭山、沈家嶺、狗娃山緊緊地環抱起來，地勢相當險峻，易守難攻。特別是東崗坡、皋蘭山、沈家嶺、狗娃山一帶，不僅山勢陡峭，很少路徑，而且工事堅固，人工挖出的峭壁、塹壕縱橫，地堡密布，明暗火力交錯，加上「馬家軍」層層設防，步步為營，給解放軍的攻城作戰設置了十分不利的障礙。
回到指揮所後，彭德懷的腦子裡就裝滿了一些怎樣打、從哪兒打起的問題。
從哪兒打起呢？蘭州的地形如此特別，對手又是目前國民黨軍中最有戰鬥力的部隊，狂熱的宗教情緒，強悍的民族性格，使「馬家軍」如虎添翼，如果讓他們在蘭州打順了、打瘋了，那可惹麻煩了。
彭德懷站在指揮所里的軍事地圖前，反覆地掂量著，考慮來考慮去，最後決定不惜一切代價先拿下南山陣地和北面的黃河鐵橋。
在他看來，攻取南山陣地，便可以掌握制高點，居高臨下，向蘭州城內的「馬家軍」發起攻擊；佔領黃河鐵橋，就等於切斷了「馬家軍」逃往西寧的惟一退路。彭德懷說，這兩點，對於攻取蘭州極為重要。在這一分析和認識的基礎上，彭德懷制定了攻取蘭州的戰役部署：
許光達的第二兵團：進攻營盤嶺、沈家嶺和七里河，然後向蘭州城西關和南關發展進攻，並以一部沿黃河南岸東進，奪取黃河鐵橋，一部從七里河地區相機北渡黃河，殲滅北岸之敵；
楊得志的第十九兵團：沿西蘭公路首先攻佔路南之馬架山、古城嶺、豆家山和路北之十里山，然後向蘭州東關發展進攻。
這個部署簡明扼要，一如彭德懷的為人，也符合他一貫的指揮風格。
在解放大軍逼近蘭州城郊的時候，彭德懷對馬繼援的整個部署及作戰方案並未搞得十分清楚。他當時得到的是兩種相互矛盾的情報。一種情報是敵第九十一軍、第一二○軍已從蘭州北撤，擬隨國民黨甘肅省政府退到酒泉，大批物資正由蘭州運往西寧，蘭州之敵已在準備炸毀工廠，拆除電線，破壞黃河鐵橋，作出了一副隨時都要逃跑的樣子；另一種情報是蔣介石集團日有數架飛機運送彈藥到蘭州，「青馬」正在搶運糧食和磨盤進城，其第八十二軍主力在蘭州南山一線加修工事，「寧馬」準備以6個師出擊，支援「青馬」固守蘭州。
這兩種情報，互相矛盾，據此可以作出兩種截然相反的判斷。
但是，彭德懷在仔細分析了這兩種截然不同的情報後，認為敵人在蘭州的處境已不同於平涼，敵人在蘭州決戰的計畫也不會像平涼那樣不戰而撤。我軍必須盡一切努力，迫使敵人決戰蘭州。同時，應當把情況估計得更嚴重些，把困難考慮得更多些，以此為立足點，從各方面做好充分的準備。
彭德懷對於在蘭州同馬步芳的主力決戰的問題，雖然不時也表現出一種焦慮和不安的情緒，但他一旦把決心定下來，就很難改變了。
在喬家灣指揮所里，彭德懷對一些高級將領和參謀人員講：
「馬繼援是不會放棄蘭州的，他是要踞守蘭州，在這裡是要同我軍決一死戰。那麼，我們就成全了這個娃娃吧！」
於是，就在第一野戰軍的前線指揮所進駐蘭州東南的喬家灣的第二天，即8月21日，彭德懷就打電報給率第一兵團從左翼迂迴青海的王震將軍：
青馬匪軍現決心固守蘭州，我左兵團進佔臨夏後，可能動搖其固守決心，但也可能促其不顧一切決心死守，甚至放棄西寧，撤守大通河東岸及享堂、新城、湟水北岸，保障其向河西的退路。在我軍攻佔蘭州六七天不得手時，寧馬主力就可能乘機增援蘭州。青、寧二馬有汽車兩千輛以上，要充分估計到寧馬主力車運蘭州的可能性。如果出現這種情況，第二兵團即可迂迴蘭州北部，我軍將集中三個兵團於蘭州會戰。王震兵團應有此種作戰之充分準備。
這一天，彭德懷又以第一野戰軍的名義，發出了關於進攻蘭州的戰術指示，並特彆強調了以下各條：
青馬匪軍為今日敵軍中最有戰鬥力的部隊，在全國也是有數的頑敵。我們對他須有足夠的估計，並作好充分的精神準備，力戒輕敵驕傲急性。
——各部在進攻時需要仔細偵察，精密計畫，充分準備。
——須集中優勢兵力、火力、技術於一點，一個一個山頭、房舍、陣地，逐次地殲滅敵人。不攻則已，攻必湊效。
——進攻中，須充分準備殲滅敵人反衝鋒部隊，組織消滅反衝鋒的火力，構築抗擊反衝鋒的工事。
——密切步炮協同。炮兵須反覆精細地偵察敵人火力、火力的具體配備，組織良好的戰場觀察、切忌盲目的射擊。須知優勢的炮火，在頑強的敵人面前，並不是萬能的。
——對敵人外壕、陡壁的克服，須用挖對溝、改造地形的辦法去接近，用炸藥來破壞。因彈藥運輸困難，炮擊只能是輔助的。
彭德懷想得比較周密。他把戰鬥過程中可能遇到的困難，全部交給大家，並提出了相應的解決辦法。
這時，解放軍對蘭州只是形成東、西、南的三面包圍，北面的退路黃河鐵橋則仍然在「馬家軍」的控制之下。因此，此時還不能完全排除在解放大軍的強大火力壓迫下，「青馬」主力突然逃跑的可能性。
於是，彭德懷決定，先以9個團的兵力，於8月21日，對國民黨蘭州守軍的全線陣地進行一次試探性攻擊。
根據彭德懷的命令，鄭維山和王宗槐指揮的第六十三軍，由王道邦和肖應棠指揮的第六十五軍以5個團的兵力攻擊豆家山、古城嶺和十里山一線敵之陣地。
人民解放軍第二兵團由張仲良和高錦純指揮的第四軍，以2個團的兵力攻擊沈家嶺敵之陣地。此時，第四軍軍長張達志尚在從西安趕赴蘭州的路途之中。
第二兵團由羅元發和張賢約指揮的第六軍，以2個團的兵力，攻擊皋蘭山主峰營盤嶺敵之陣地。
試攻命令發布後，彭德懷背著手，信步走出喬家灣指揮所，遠眺南山敵人的陣地，深沉地說：
「這個乳臭未乾的馬繼援真是夜郎自大，他想在蘭州吃掉我們，好吧！咱們就走著瞧……」
馬步芳原本是要在蘭州同解放軍決戰的。
國民黨的廣州「西北聯防軍事會議」，閻錫山對所謂「蘭州會戰」，也作了一些部署。但是，當第一野戰軍從東、西、南三面向蘭州攻擊前進的時候，敵人的營壘里的「窩裡斗」，卻使其蘭州的防守捉襟見肘，一胡二馬所謂的精誠團結、相互配合，也變得鬆動起來。
當解放大軍越過六盤山向西挺進，馬步芳、馬鴻逵的軍隊全線向蘭州、寧夏撤退的時候，馬步芳也還在做著他的所謂配合友軍，前後夾擊，殲滅彭德懷主力於蘭州城下，以挽救西北危局的美夢，馬步芳在此期間，曾幾次發電請求蔣介石令胡宗南兵出秦嶺，馬鴻逵從寧夏南下，分進合擊，對解放軍實行包抄圍殲，畢其功於蘭州之役。
但是，以西北軍政長官公署副長官劉任為首的「中央派」，鑒於胡宗南與馬步芳、馬步芳與馬鴻逵之間的矛盾，在解放大軍逼近蘭州的時候，開始打起了自己的小算盤。
劉任斷定，「寧馬」對「青馬」出任西北長官公署長官的事，一直耿耿於懷，心存不滿。「寧馬」雖然也弄了個甘肅省主席的職位，但不願受「青馬」的控制，認為蘭州是「青馬」的勢力範圍，所以對蘭州的得失並不關心，企圖坐山觀虎鬥，以保住他的寧夏老巢為己任。胡宗南龜縮漢中，解放軍西去，正可扼守秦嶺，苟安整補，坐收漁人之利。因此，「中央派」得出的結論是：蘭州會戰，「青馬」孤立無援，凶多吉少，蘭州失守已成定局。
「中央派」估計，解放軍在攻佔蘭州後，必