接到中央軍委的同意電後，徐向前一面周密地進行作戰部署，一面組織參戰部隊加緊戰前訓練。
為了不失時機地殲滅可能逃跑的敵人，徐向前部署：以8縱24旅位於浮山、大陽以西地區；太岳一部位於洪洞、趙城以東地區，控制同蒲路東側；以呂梁軍區指揮的西北野戰軍獨立第3、7兩旅隱蔽在汾西地區，控制同蒲路西側。主力集結翼城、曲沃地區，如敵逃竄，即以東側兩旅佔領要點，阻擊敵於趙城以南地區，西側兩旅截擊從汾河西岸北逃的敵人，並遲滯南下接援的敵人。為不過早地暴露行動企圖，決定在戰役發起時主力即以一天半急行軍北上投入戰鬥。如敵固守不動，各部即隱蔽集訓待機。
部隊需要訓練，幹部需要培訓，作為一個高級指揮機關，更需要精通業務的一批參謀人員。這時指揮所只有10幾名幹部，人手雖少，徐向前仍要求他們多多深入連隊，收集基層的情況和各種思想反應，不要蹲機關。個別參謀幹事暗暗叫苦，徐向前看透了他們的心思，嚴肅地說：「不掌握下情，髮指示、下命令就是無源之水。」他教育指揮所機關幹部：「你們要敢於承擔事情。對一個幹部，首先看他干不幹，只要干，只要努力，哪怕有些事干不好，即使犯點錯誤，也不要緊。」
大家看到徐向前身體不好，擔子那麼重，總是殫精竭慮地工作，都從心裡非常敬佩。叫苦的不叫了；畏難的，積極勤奮起來。部隊的軍事訓練、政治工作、後勤保障工作，都不斷加強。
在緊張而繁重的工作之暇，為了使幹部增加對作戰地域的歷史、地理、文化、民情、風俗方面的知識的了解，徐向前常給大家講一些山西的歷史典故，講堯舜禹湯、春秋戰國、晉分三家等歷史故事，講韓侯嶺地名的來歷。他強調前方指揮所是前線的高級指揮機關，要特別注意政策問題。絕不能隨心所欲，感情用事。既要聽下邊的意見，又要獨斷、善斷。還說過去在紅4方面軍時，指揮作戰最怕張國燾到前線來。他一來前線瞎指揮就出亂子。
有一次，他和任白戈談起柳宗元的《晉問》，文中說到臨汾人民具有一些好的傳統：生活儉樸，反對鋪張浪費；樂於禮讓，反對爭權奪利；溫和而不暴躁，能和睦相處；居安思危，注意防止人為的災禍；講求實際，能安適愉快地生活。
任白戈說：「這些很值得我們政治部門注意研究，在處理軍民關係和執行城市政策時要加以考慮。」
徐向前說：「柳宗元是山西國古代文化發源地帶，由長期歷史條件下陶冶的政治遠見和道德修養，說成是唐堯那個『聖賢』的個人模範作用和民主作風教化出來的，實際上，他是借題發揮，對自己那個時代的政治黑暗抒泄不滿，表明自己的主張。他的政治思想，雖然不失為一種美好的願望，但在封建社會中是無法實現的，不過，有些合理的因素，人，他把臨汾人民群眾在這個中還是值得我們借鑒。」他要任白戈根據中共中央關於《糾正土地改革宣傳中的「左」傾錯誤》、《關於民族資產階級和開明紳士問題》和《城市工商業政策》等指示的精神，結合臨汾和部隊的實際，擬定一個《關於執行城市政策紀律的政治訓令》，下發部隊。
徐向前還說：「臨汾城的文物、廟宇、古迹不少，都是我們民族文化的財富，要盡一切努力保護下來。要使部隊懂得這樣一個道理：城市是政治經濟文化中心，鄉村離開城市就不行，但中國革命的特點，是由鄉村到城市。一開始，我們打開一個城市，站不住腳，要撤出來。現在形勢不同了，我們凡打下一座城市，就是人民自己的！」
「我們部隊從打游擊戰到打運動戰，發展到現在打攻堅戰，我們訓練部隊打攻堅戰，研究攻堅的戰術技術，為的是把城市打下來，而攻打城市，為的不是破壞城市，而是要保護城市。」
「臨汾城一定要攻下來，還有學校、機關、工廠、企業、醫院、倉庫和一切公共建築，都要多加保護。」