要拿下廣州，洪兵只剩下了一項數量優勢，這也是他們最後的撒手鐧。1854年7月30日，隨著李文茂一聲令下，洪兵向廣州發起了總攻。
二十萬人一齊行動，場面駭人之至。廣州城內立刻開始出現波動，由於洪兵圍城並非嚴絲合縫，人們爭相向城外逃難，開始只是有錢人家，後來一般平民也大量出逃。
其實當時鄉下也許比城裡更兇險，搶掠燒殺無處不在，但正所謂寧做太平犬，不做亂世人，亂世之中，老百姓的選擇實在很有限。
這時葉名琛再次顯示出了他在將將上的能力。驍將福興走後，他又任命按察使沈棣輝為守城總指揮。
如果說葉名琛是將將之才，那麼沈棣輝就是將兵之才。他是個文官出身的將領，最大的長處是賞罰分明，知人善任，後來名噪一時的馮子材便是由其招撫和培養出來的戰將。
葉名琛交給沈棣輝的兵只有一萬五千人，但人少不是問題，關鍵是怎麼用。沈棣輝從中選出四千精銳，然後把他們放在城內要害位置，其餘地方則儘可能多插旗幟，用疑兵的方式來嚇唬人。
洪兵四面攻城，但城牆上好像處處都有守軍，一時難以找到突破重點，官軍卻居高臨下，火炮射過去，一打一個準兒。
經過幾次碰撞，洪兵吃了虧，再不敢輕易接近廣州城，大家都趨向於坐等援軍。
洪兵所企盼的援軍，指的是廣東佛山人陳開。
在天地會元老陳松被誘捕後，洪兵內部鬆散不堪的弊病一覽無餘，與太平軍形成鮮明對比——李文茂無法號令部屬，真正肯接受其指揮的，仍是他那支戲班子部隊。
李文茂當不成核心的原因，是他在天地會中的名位和輩分並不高，所謂居首，只是因為他的部隊比較強一些罷了。
水手出身的陳開稱得上是天地會中重量級的首領，他在佛山一起事就招納到十萬之眾，其影響力可想而知。如果他能儘快來廣州會合，不僅可有效整合各軍，而且三十萬人撲城，就算廣州有銅牆鐵壁也擋不住。
能不能阻擊陳開，成了廣州城可否守住的前提。
葉名琛再也撥不出多餘兵力出城作戰，但又深知其中厲害，在危急存亡的這一刻，他把團練的能量發揮到了極致。
按功用和活動區域不同，團練可分為募勇和練勇兩種。募勇實際上就是僱傭兵，可以外出與正規軍並肩作戰，甚至直接作為正規軍，比如，湘軍就是募勇性質。在參加廣州守城的一萬五千人中，除九千綠營和八旗外，其餘六千都是募勇。
與募勇相比，練勇不離鄉，也不拿工資，基本就是當地族人或村民。他們定期集合，進行軍事訓練，故稱「練勇」。
尋常練勇，一般都只能打打小股洪兵，或者在洪兵撤退時，起一個原地阻擊或追擊的作用。葉名琛要對付陳開，需要的不是這種普通練勇，他需要的是「九十六鄉練勇」。
在廣州與佛山之間，尚武之風盛行，民風極其強悍，這裡有一支當時最出名也最厲害的練勇，也即「九十六鄉練勇」。早在圍城之初，葉名琛就發現了這支民兵的不同尋常之處，不僅親自召見當地的士紳首領，還專門調撥大炮和彈藥，從而使得「九十六鄉練勇」在戰鬥力上又上升了好幾個檔次。
陳開兩度被「九十六鄉練勇」擊退，這令他既吃驚又惱怒，但直到第三次發動十萬大軍傾巢而攻，仍無法越過「九十六鄉」。
對廣州守城之役來說，這是具有決定性意義的三次作戰，洪兵欲會師廣州城下的計畫被迫流產。
陳開來不了廣州，本來就不齊心的洪兵首領們更加離心離德。為了爭奪物資和利益，各派勢力甚至發展到刀兵相見，還有人則對攻城失去信心，索性離開了聯軍。
在參與圍城的洪兵首領中，李文茂與另一位首領陳顯良擁兵最多，對廣州的威脅也最大。葉名琛和沈棣輝決定，擒賊先擒王，乘對方軍心動搖之際，先擊破這兩股洪兵主力再說。
當下沈棣輝實施偷襲，燒毀洪兵營寨六百多座，把陳顯良打得落荒而逃。接著，他又率船隊迂迴到李文茂軍營背後，並且再次獲勝。
陳顯良、李文茂的先後挫敗，令洪兵元氣大傷。至1854年12月底，官軍將各路洪兵從廣州近郊逐退，被圍攻達半年之久的廣州初步脫離險境。城內居民在被圍之初曾經驚恐萬分，此時臉上已不見慌張之色。