擊破江南大營以及解天京之圍，皆系李秀成之功，但洪秀全卻越發以為是天父天兄保佑著他，才會出現如此「奇蹟」，至此便更加不理政事。他對李秀成也仍談不上特別信任，實際上，最為他垂青的人是已故西王蕭朝貴的兒子、幼西王蕭有和，其次是他的兩個哥哥洪仁發、洪仁達，再是洪仁玕和兩個駙馬爺，接下來才是英王陳玉成，李秀成尚排在陳玉成之後。
蕭有和還是個孩童，別說理政，連議政能力都不具備。洪仁發、洪仁達忌李秀成功高，就攛掇著天王頒下嚴詔，限李秀成所部在一個月內攻取蘇州、常州，至於封賞獎勵則一個字都未提及。
李秀成心裡雖然不是滋味，但王命不得不從，只好在休整了三天後，就又匆匆整兵出發。
李秀成深知，要取蘇常二郡，就繞不過老對手張國梁這一關，他必須先幹掉張國梁。此時張國梁已收容了一萬兩千人，退守至丹陽。李秀成步步為營，直抵丹陽城下。張國梁當即大開南門出城迎戰，他本人固然是有勇氣再決雌雄，問題是他的部隊不行，官兵們一看到李秀成軍的旗幟，立刻就慌了手腳。
喜歡和善用旗幟是太平軍的一大特點。太平軍最低級的軍官為兩司馬，自兩司馬起就有一面旗幟，往上官位越高旗幟越多。一萬多人的隊伍，大小黃旗就擁有六百多面，每逢攻克清軍城池，城頭上便「無數黃旗分門站立」，到了野戰，更是「黃旗遍野」。
太平軍的旗手均由精壯忠勇之人充任，其任務是舉著旗幟走在前面，代表所屬軍官引導大軍作戰。他們的地位也相當高，重要統帥的旗手甚至和高級軍官的官級相同。
李秀成的大黃旗由其親選士兵執掌，只要大旗揮動，全軍必然踴躍向前，凡臨陣脫陣者，會被執刀在手的後排士兵當場斬首。清軍最害怕這面大黃旗，江南大營被破之前，很多官兵還沒等到大黃旗揮動，往往心裏面就怯了三分，更不用說處於如今這種風聲鶴唳的境地了。
清軍描述太平軍發動進攻，常用一個詞，叫「如牆而進」。眼看著李軍在大小黃旗的引導下，一個接著一個，一排接著一排，如同牆壁一樣往前推進，張國梁手下的兵勇魂飛魄散，全都爭搶著潰退逃散。
張國梁見狀大怒，自率親兵向李軍直衝過去，欲與李秀成拼個你死我活。悲哀的是，潰卒塞途，竟然活生生地將他擋在了路上，讓他連衝到李軍陣前都做不到。
中國古代演義小說中，給人印象最深的莫過於「武將單挑」，但這只是出於小說家們的演繹和想像。在勝券在握的情況下，李秀成也根本用不著逞什麼匹夫之勇，看到張國梁在人堆中急得大吼大叫，他當即派一名力士前去「取上將首級」。
力士混入潰卒之中，乘張國梁不備，用刀猛刺過去。張國梁猝不及防，身被重創，他大叫著騎馬跳入尹公橋下，於河中溺亡。
李秀成在佔領丹陽後，下令將張國梁的屍首予以禮葬。他對此的解釋是：「兩國交兵，各為其主，各忠其事，生既為敵，死尚可為仇乎？」顯然，即便在李秀成的心目中，張國梁亦不失為值得惺惺相惜的一條好漢。
張國梁在綠營中的地位，相當於是湘軍中的李續賓。咸豐皇帝聞報十分痛惜，他還寄望於張國梁落水後可能僥倖未死，命軍中進行查實，幾個月後張國梁已死的消息得以確證，這才下詔優恤。
江南大營被破時，和春、張國梁各走一方，和春去的是常州。江蘇巡撫徐有壬向朝廷上奏，稱和春在常州迎戰太平軍時胸口受了槍傷，退至無錫滸墅關後嘔血而亡，然而李秀成得到的消息，卻是和春在聽聞張國梁戰死丹陽後即自縊而亡。
不管真相到底如何，事實是張國梁一死，江南戰場上便已無任何人能夠抗衡李秀成。這時兩江總督何桂清因為辦理籌餉正駐節常州，他原先就靠和春、張國梁在前方替他打仗，至此便慌了手腳，連忙上疏詐稱要回蘇州籌餉，準備腳底抹油，逃往蘇州。常州紳民見狀紛紛跪在道旁，請求他繼續留在城中主持，何桂清哪裡肯干，竟然命令親兵向紳民開槍，在當場打死打傷十一人後，很不要臉地溜走了。
徐有壬正坐鎮蘇州，何桂清對徐有壬曾有提攜之恩，他以為對方一定會開門相迎，不料徐有壬認為何某棄常州不守，罪無可赦，不但拒絕讓他進城，而且還上疏彈劾他「棄城喪師」等多條罪狀。
何桂清走投無路，只得以向英法公使商借洋兵為名，躲進了上海租界。
這時張玉良已率部趕到蘇錫常地區，他本來受何桂清之託承擔常州防務，但何桂清一跑，他也跟著移師無錫。常州城孤立無援，很快就被李秀成攻破。
張玉良虛名在外，能力和眼光卻著實有限。常州城乃無錫、蘇州兩城之藩籬，藩籬盡撤，其餘二城安能獨存？李秀成親自率部向無錫發起進攻，官軍大潰而逃，張玉良只好又收拾殘卒退往蘇州。
張玉良自請守城，徐有壬就讓他駐兵於葑門。張部把他們惡劣的軍紀從杭州一路帶回蘇常，到處搶掠財物，胡作非為，百姓怨聲載道。1860年6月1日，李秀成進軍至蘇州閶門，城外百姓都舉著「同心殺盡張、和（張國梁、和春）兩帥官兵」的標語，挑著酒食前去迎接，人心之向背可見一斑。在這種情況下，張玉良自覺蘇州難以固守，連夜便帶著部下逃往杭州。
蘇州城內除了不滿四千的弱兵外，還有不少來自天京、常州、無錫一帶的殘兵敗將，他們看到張玉良未戰先逃，就密謀為太平軍做內應。第二天，這些兵勇突然開門把太平軍放了進來，徐有壬拒不投降，繼續率兵與敵死戰。
徐有壬是個很有氣節的文臣。宋末，臨安被元軍攻破，徐家遠祖徐應鑣全家自殺殉國。徐有壬小時候讀家譜，正好看到這段往事，他便很激憤地說了一句：「我將來也應該這樣！」果然一語成讖，他最終死在了巷戰之中。
李秀成在佔領蘇州的同時，另派將領對張玉良實施銜尾追擊，直至攻佔嘉興。到他下令停止追擊結束戰役時，江南田野上已經堆滿了清軍屍體，港汊河道竟為之阻塞不通。