曾國藩說：「餘生平吃數大塹，而癸丑六月（咸豐三年六月）不與焉。」似乎長沙之辱在他記憶中無足輕重。事實遠非如此：正是這次強烈刺激，推動他克服了那些本不可能克服的困難，練成了湘軍。
事情起因於咸豐二年臘月曾國藩入省承擔公事。
咸豐二年底，咸豐皇帝的一道緊急命令傳到了荷葉。原來不久前太平軍揮師北上，湖南各地，紛紛糜爛。咸豐皇帝情急之下，詔命在鄉下老家為母親守孝的曾國藩幫助地方官員興辦「團練」，也就是「民兵」，以保衛鄉里。
曾國藩一到長沙，就展現出雷厲風行的辦事風格。
皇帝的諭旨傳到湖南時，太平軍已經揮師湖北。湖南雖暫獲喘息，形勢卻依然危急。太平軍走後，各縣的會黨、土匪勢力不斷發難，也試圖步太平軍後塵以求一逞，湖南境內風聲鶴唳，人心惶惶。因此穩定社會治安成了當務之急。
曾國藩在自己的公館裡開設了一個「審案局」，專門審理社會治安案件。曾國藩命令，凡有地方土匪、流氓、搶劫犯被抓獲，不必經過州縣，直接送到這裡。只要捆送來者，一不需要參照法律，二不需要任何實際證據，只以舉報者口辭為信，稍加訊問，立即結案。處理方法只有三種：一是立刻砍頭，二是活活打死在棍下，三是施以殘酷的鞭刑。用曾國藩自己的話說就是：「匪類解到，重則立決，輕則斃之杖下，又輕則鞭之千百。敝處所為止此三科。」四個月內，審案局「計斬決之犯一百零四名，立斃杖下者二名，監斃獄中者三十一名」。曾國藩因此獲得了「曾剃頭」的著名外號。
恐怖政策確實收到了一時之效，各地土匪不再敢輕舉妄動，社會秩序迅速安定下來。奇怪的是，曾國藩勇於任事，沒有贏得湖南政界的感激，相反卻招致了重重怨懟。出山幾個月後，謗名滿城，長沙城中「文法吏大嘩」，都視他為仇敵。甚至當時的一些老朋友如李瀚章、魁聯、朱孫詒、郭嵩燾、歐陽兆熊等都給他寫信，表示了對他種種作為的不理解和擔心。李瀚章為此專門寫信給他，「勸其緩刑」。
成為眾矢之的的原因，是曾國藩動了別人的乳酪。
在當時，權力是官員們的眼珠，是官員們的生命，是官員們的精神支柱，也是官員們灰色收入的主要來源和收穫他人尊敬、巴結、攀附的唯一資本。因此官員們視自己的權力範圍，就如同狗看著自己食盆里的骨頭，寡婦看著自己的獨子，或者美女守著自己的敏感地帶一樣，絕不許人觸碰。他們可以允許自己無所作為，「占著茅坑不拉屎」，卻絕不允許別人在這裡有所作為。
曾國藩悍然成立了不倫不類的「審案局」，將自布政使到各府州縣長官的社會治安權收歸自己名下，「巨案則自行匯奏，小者則惟吾專之」。他對那些貪鄙畏葸的地方官吏本來就極不信任，所以常常越過他們，直接下達命令。他規定，任何人都可以捆送土匪流氓，不必經過過去那些層層手續，「一切勘轉之文、解犯之費都行省去，寬以處分，假以便宜」。他辦案總是徑自決定，從速處理，以免有人來說情糾纏：「期於立辦，無所掛礙牽掣於其間。案至即時訊供，即時正法，亦無所期待遷延。」
這就惹惱了通省文官。案子就是錢，不是現錢也是天大的人情，你把抓捕、審判、監禁、處決權統統收歸自己所有，別人還有什麼活路？
曾國藩不尊重行政程序，視湖南通省官員如無物，更是大傷文官們的面子。你要當好官，出成績，這可以理解，誰不想往上爬？但能不能別把我們踩得這樣狠，反襯得這樣無能？你半年裡辦的事，超過了湖南幾十年的工作成績，這樣干法，別人的面子往哪裡擺？
咸豐皇帝任命的「幫辦團練大臣」，並非曾國藩一人。從咸豐二年十一月至三年二月，他一口氣任命了十個省共四十三位退休或者丁憂在家的前官員為團練大臣。
絕大多數團練大臣行事都很明智。他們的做法有三類。潔身自好者深知自己不受地方官員歡迎，他們接到命令之後，在省城找間空辦公室，掛個牌子敷衍兩天，最後像大多數紳士那樣，給團練捐些錢了事。
精於打小算盤者則視皇帝的聖旨為以公濟私的好機會。他們在地方上果真辦起一支小小的民兵，不過主要目的卻是保衛自己的莊園不受土匪搶劫。一旦太平軍大股部隊到來，則立刻「逃遁」或「託病藏匿」了。
胃口更大者則把這個差使當成中飽私囊的絕佳機會。他們扯著皇帝的幌子，以籌款練兵為借口，大肆敲詐地方富戶。「假公濟私，百端紛擾，或逼勒州縣供應，或苛派民間銀錢，或於官設捐局之外，團練再設捐局，或於官抽厘金之外，團練再抽厘金。」
只有曾國藩一個人，一不要錢，二不要利，只想真正為國家分憂。這就觸犯了官場潛規則。
曾國藩混跡官場多年，當然不是不通世故之輩。他自己說：「今歲以來，所辦之事，強半皆冒侵官越俎之嫌。」他悍然不顧，一意孤行，自有他的道理：「只以時事孔艱，苟利於國，或益於民，即不惜攘臂為之，冀以補瘡痍之萬一，而扶正氣於將歇。」後來，在給翰林院同事龍啟瑞的信中，他又這樣進行解釋：二三十年以來，官場形成一種黑白不辨、不痛不癢的含混作風。偶爾有人批評這種作風，則大家相與議論，說他不懂事，好顯擺自己。我昔年做六部官員時，對此早已痛恨入骨。如今辦理團練，又遇到幾個有實權的人，不許我觸及他們的勢力範圍。在這種情況下，如果我再謙遜退讓，則一事無成。而且這麼多年來，心裡也憋著一股火，於是毅然出手，不再管那麼多。
他又說，「物窮則變，救浮華者莫如質。積玩之後，振之以猛，意在斯乎？」
在曾國藩看來，官場風氣敗壞已極，隨波逐流，斷難成功。要想挽救天下，首先就要改變官場風氣，「痛懲而廓清之」。他希望以自己至剛至猛的辦事風格，給渾渾噩噩的湖南官場一個震動，打破這個死氣沉沉的鐵屋。他哪裡知道，這些地方官員，雖然辦起正事昏聵糊塗，但是壞起事來，個個都是行家裡手。一場大風波不久就到來了。
風波的觸發點是練兵。
曾國藩不是軍人，也從來沒有摸過武器。但是他畢竟從道光二十九年起，兼任過數年的「兵部左侍郎」（約等於今天的國防部副部長），加以他以經世致用為志，對大清國家武裝情況有較一般人遠為深入而全面的了解。
他深知，依靠目前這支大清軍隊，打敗太平軍是不可能的。因為晚清國家軍隊是一支沒有靈魂、沒有「天良」、沒有精神力量的軍隊。曾國藩說過：「國藩歷年來痛恨軍營習氣，武弁自守備以上無不喪盡天良！」
要挽救這個國家，只有一個辦法，那就是「赤地立新」，自己動手，練出一支嶄新的有戰鬥力的隊伍。所以，在接奉聖旨後的第十天，曾國藩就復奏，要在長沙創建一支新的軍隊。
曾國藩練兵，首重給軍隊注入「良心」和「靈魂」。他在中國軍事史上首先發明了「政治教育」。創立湘軍之後，每逢三日、八日，他要把軍隊召集到操場上，進行政治動員。他親自訓話，用「殺身成仁，捨生取義」的孔孟之道和「不要錢，不怕死」的岳飛精神激勵將士，教育他們忠君愛國，不得擾民。
這當然是好事。但問題是曾國藩又一次把手伸向了自己的權力範圍之外。和各地國家軍隊一樣，駐長沙的綠營軍，軍紀廢弛、四處擾民，令全長沙頭疼。曾國藩命令駐省的正規軍隊每三八兩日，與湘軍一起「會操」。曾國藩自己說：「傳喚（綠）營兵，一同操演，亦不過會弁委前來聽我教語」，開啟他們的天良。他為了喚醒這些兵痞的良心，也確實苦口婆心：「每逢三、八操演集諸勇而教之，反覆開說至千百語，但令其無擾百姓。」「每次與諸弁兵講說，至一時數刻之久。雖不敢雲說法點頑石之頭，亦誠欲以苦口滴杜鵑之血。」其目的「蓋欲感動一二，冀其不擾百姓，以雪兵勇不如賊匪之恥，而稍變武弁漫無紀律之態」。
這一利國利軍之舉，卻差點讓曾國藩送了命。
大清政治慣例是文官不管軍隊的日常事務。即使是巡撫這樣的實權大官，也不會具體過問軍隊的日常操練。文官們雖然痛恨曾國藩，但也只能形於辭色，性情粗野的軍人們卻沒有這麼好脾氣，他們立刻付諸行動。
帶頭鬧事的，是長沙副將清德。他在太平軍進攻湖南時曾臨陣脫逃，此時面對曾國藩卻很勇敢。他不僅帶頭抵制會操，「操演之期，該將從不一至」，而且搖唇鼓舌，四處鼓動各軍不要受曾國藩的擺弄。
行事至剛的曾國藩立刻給皇帝上了個摺子，彈劾清德，並猛烈抨擊湖南駐軍「將士畏葸，疲玩已成痼習，勸之不聽，威之不懼，竟無可以激勵之術」。尚方寶劍很快顯示了威力。咸豐皇帝立刻將清德革職拿辦。這是曾國藩出山之後，與湖南官場發生的第一次正式衝突。
表面上看曾國藩在這次衝突中取得大勝，實際上失敗的隱患已根植在這場「大勝」之中。