一、曾國藩的領導
曾國藩（一八一一至一八七二），為湖南湘鄉人，長洪秀全三歲，同係來自耕讀之家。在早年功名途上，他較洪秀全順利，二十八歲中進士，成翰林，三十四歲官禮部侍郎。平生究心義理與經世致用之學，是一位道統名教的擁護者。他亦不滿時政，殷望有所改革。鄉人友好中和他抱同感的大有其人，均以事變難免為慮。道光、咸豐之際，湖南、廣西亂作，舉人江忠源為綏靖地方，首起楚勇，助官軍平新寧事變。一八五二年，邀擊太平軍於湘、桂之交，繼之力保長沙省城。湘鄉諸生羅澤南踵行其事，別立湘勇。一八五三年一月，太平軍北入湖北，有燎原之勢，清廷正式授曾國藩以幫同湖南巡撫團練，搜查土匪之任，以補正規軍的不足。他因母喪正在籍守制，不欲任事，和他交稱莫逆的郭嵩燾說以乘時自效，澄清天下，兼保桑梓。他亦鑑於武昌不守，關係甚大，始赴長沙籌劃。
到長沙的第二日，提出他對團練的主張，謂團練應由地方紳耆董理，搜查土匪應由巡撫派兵剿捕。太平軍凶焰已熾，湖南兵力單薄，不足守禦，決在省城成立大團，招募壯健樸實的鄉勇，認真操練。官軍之不堪任戰，有目共睹，必須改弦更張，而以練兵為要。易言之，他要編組一支新軍，與太平軍對抗。咸豐批示，要他「悉心辦理，以資防剿」，原則上無異認可。是後他給友人信中，屢有「馳驅中原」，「蕩平賊氛」，「蕩滌群醜，掃蕩廓清」之言，可見他一開始即抱負不凡。
新軍不僅須針對綠營之弊，亦須兼取敵人之長，成為確能戰鬥的部隊。綠營的最大弱點，為營伍習氣與調遣成法，太平軍之善戰在於團結堅固。曾國藩認定「今日將欲滅賊，必先諸將一心，萬眾一氣」，「呼吸相顧，痛癢相關，赴火同行，蹈湯同往。勝則舉杯酒以讓功，敗則出死力以相救。賊有誓不相棄之死黨，吾官亦有誓不相棄之死黨，應可血戰一二次，漸新民之耳目」。他的新軍通稱湘軍，具有以下幾個特點：
一、人員：先求志同道合，質直而有血性、忠義而曉軍事的儒生為將。他說「帶勇須智深勇沉之士，文經武緯之才」，第一要才堪治民，第二要不怕死，第三要不急急名利，第四要耐受辛苦，也就是有信仰，肯犧牲。然後「盡募新勇，不雜一兵」，以「樸實而少心竅」的鄉農為尚，不取浮華之輩，擯斥滑弁遊卒及市井無賴。
二、編制：十人或十二人為一隊，什長一人；八隊為一哨，哨官一人；四哨為一營，統於營官，每營官兵五百人（初為三百六十人），合數營，或數十營置一統領。成軍之初，大帥選統領，統領揀營官，營官揀哨宮，哨官揀什長，什長挑勇丁。全軍自上而下，非親族故舊，即同鄉同里，「將帥相能，兵將相習」，「弁勇視營哨，營哨視統領，統領視大帥，皆如子弟之視其父兄」。
三、訓練：兵勇必須「苦心精練」，陣法技擊固要逐日操習，精神紀律同樣注意，他所編的「莫逃走」、「要齊心」、「操武藝」歌詞，雖為勸告鄉民自衛，亦可施之營伍。同時更要愛民，每隔五天集合教導，反覆開說，千言百語，但令勿擾百姓。「練者其名，訓者其實。……冀其不擾百姓，以雪兵勇不如賊匪之恥，而稍變武弁漫無紀律之態」，並使其相激相劘，忠義奮發，一德一心，「以畏難苟活為羞，克敵戰死為榮」。
四、待遇：餉銀不裕，不足以養將弁之廉、作兵勇之氣。新軍勇丁每人月銀四兩二錢（後增為四兩五錢），較綠營提高一倍有餘。餉源最初來自捐輸及藩庫，其後則以百貨釐金為主【註：釐金係仿照兩湖會館的提釐籌款辦法，大概係就所屬同鄉的商貨中抽收百之一。一八五三年七月，江北大營始於揚州附近仿行，以助軍需，湖南大約不久亦予採用，倡之者為代曾國藩勸捐最力的郭嵩燾。第二年江蘇加以推廣，一八五五年，遂及於用兵各省】，次為鹽釐。
如以楊秀清、蕭朝貴的《奉天討胡檄》代表太平軍的主義，曾國藩的《討粵匪檄》【註：一八五四年二月二十五日發】，可說明湘軍的立場。太平軍是為開創王朝而戰，為實現一種理想而戰，曾國藩是為衛護道統名教而戰，為傳統文化而戰。勤王之義，雖在名教之內，但他不過分強調，對太平天國種族思想，亦避開不提，此有其難言之隱。
檄文的第一段，痛斥太平軍的殘暴，以地域觀念打動長江流域之人，並煽動身陷太平軍者，以分化所謂「新兄弟」（在長江各省新加入者）與「老兄弟」。他說，太平軍所過，「船隻無論大小，人民無論貧富，概搶掠罄盡，男女備受荼毒，而粵匪自處於安富尊榮，視我兩湖、三江被脅之人，曾犬豕牛馬之不如，此其殘忍慘酷，凡有血氣者，未有聞之而不痛憾者」。第二段痛斥太平軍，破壞倫理秩序，以名教觀念打動知識分子。不過他對太平天國的宗教，所知尚欠正確，他說：「中國歷世聖人，扶持名教，敦敘人倫」，太平軍崇外夷之教，上下皆以兄弟姊妹相稱。農不能自耕，商不能自賈，田皆天王之田，貨皆天王之貨，「士不能誦孔子之經，而又別有所謂耶穌之說、《新約》之書，舉中國數千年禮儀人倫，詩書典則，一旦掃地蕩盡。此豈獨我大清之變，乃開闢以來名教之奇變，我孔子、孟子之所痛哭於九原，凡讀書識字者，又焉能袖手坐觀，不思一為之所？」第三段痛斥太平軍毀污廟宇，以神道觀念打動一般鄉民。他說：「自古生有功德，歿則為神」，雖亂臣賊子，亦敬畏神祇。太平軍焚燒學宮廟宇，忠臣義士如關帝、岳王亦被污殘，「此又鬼神所共憤怒，欲一雪此憾」。最後申明，他的使命在救民衛道，救被擄船隻、人民，紓君父之憂，慰孔、孟人倫之痛，報生靈之仇，雪神祇之憾，希望忠義之士，共同奮起，被脅被陷者，自拔來歸。
二、湘軍東征
曾國藩的新軍，初以羅澤南的湘勇為基礎，再加部分楚勇及新募之眾，共約四千人，其後續有增加。一八五三年九月，曾國藩移駐衡州，以避長沙綠營官兵的尋釁滋鬧，兼就近剿辦南路土寇，並興治水師。太平軍順江東下及回師西征以來，擁有大小船隻近萬，飄忽靡常，沿江州邑，不戰即得，清軍無船，防不勝防，追擊不及，束手無策。曾國藩從郭嵩燾之議，開始置辦船炮。兵勇來自湖南，工匠來自廣西，砲位置自廣東，大都為西洋所製。此為日後湘軍奪回長江控制權，阻斷太平軍的水上交通，攻克兩岸城池的關鍵所在，有關於雙方勝負極大。
一八五三年十一、十二月間，西征太平軍進入湖北，安徽情形亦急，清廷連促曾國藩赴援。曾以戰船尚未辦齊，湘南土匪尚未肅清，須待水師能自成一隊，與陸師並進夾擊，否則不能草草一出。一八五四年一至二月，江忠源及湖廣總督吳文鎔相繼敗歿，太平軍三佔漢陽、漢口，圍攻武昌，湖南震動。此時湘軍水師已成，大小戰船三百餘隻，水勇五千人，合陸師將弁兵勇夫役共一萬五千人，炮五百尊，以民船百餘號載米煤油鹽，於二月二十五日出動。全軍每月需餉八萬兩，由湖南、江西、廣東、四川供應。初與太平軍角逐於湘北，陸師敗於岳州，水師潰於長沙以北的靖港，但另隊則大捷於湘潭，不僅士氣一振，長沙亦免於夾擊。經過整編訓練之後，湘軍二次出擊，七月，肅清湖湘。時武昌已於六月再失，十月為湘軍克復，並及漢陽、漢口，這是出乎清廷意料的一大勝利。十一至十二月，再捷於鄂東田家鎮、半壁山，水師直抵九江，太平軍船隻損失至大。
一八五五年初，太平天國翼王石達開率援軍西來，湘軍一再受挫。漢陽、漢口、武昌又復不守，武漢至天京全入太平軍之手。曾國藩退往南昌，湘軍首尾不能相顧，決定由湖北巡撫胡林翼及羅澤南規取武漢，日久無功【註：一八五六年四月，羅澤南戰歿，李續賓代領所部】。一八五六年石達開合自粵北來的天地會黨，及北王韋正，連佔江西八府五十餘縣，南昌幾乎不保。
三、天京內變
太平天國定都南京不久，清欽差大臣向榮的追擊軍跟蹤而至，屯紮於城東南郊，號為江南大營，兼統鎮江軍，屏蔽蘇、常的產米區。另一軍屯紮揚州城北郊，號為江北大營，屏蔽淮海的產鹽區。是年（一八五三）冬，太平軍退出揚州，仍據運河口的瓜州。江南大營聲勢頗盛，雖久攻天京無功，終為太平軍肘腋之患。一八五六年，楊秀清乘上游軍事勝利，先擊破鎮江城外及揚州之敵，再猛撲江南大營，向榮敗死，天京解圍。長江上下，太平軍無往不利，皖北的捻勢亦張，囊括江、淮，似為指顧間事。就在此時，天京連續發生自相殘殺的內變，湘軍始得喘息的機會。
楊秀清假託天父下凡以來，取得了宗教、軍事、政治大權，跋扈專擅，視洪秀全如無物，動輒凌辱，對韋正、石達開、秦日綱更是頤指氣使。韋正、秦日綱且嘗受杖責，積怨已非一日。以大敵當前，隱忍未發。早在一八五五年，《賊情匯纂》的編者已經洞悉此一危機，謂楊秀清「叵測奸心，實欲虛尊洪秀全而自攬大權，獨得其實，甚或意欲仿古之權奸，萬一事成，則殺之自取」。又云：「楊賊與昌輝（韋正）相互猜忌，似不久必有併吞之事。」