團練和鄉勇是清朝兵制下的產物，正規軍的戰鬥力越來越弱，不得已才招募各地的鄉勇。
清朝靠八旗兵起家，入關之後，八旗兵戰鬥力越來越低。三藩叛亂時，康熙主要靠綠營兵鎮壓了這場叛亂。從此以後，八旗兵的戰鬥力越來越低。為什麼？因為清廷一直把八旗當做是家底，不隨便拿出來用，但工具不用都會生鏽，何況是兵團。
乾隆後期，在討伐白蓮教時，迫於形勢需要，發展出團練和鄉勇。沒想到這個發明還真的應了時代的需要，以後每逢戰爭都會訓練一批鄉勇。
從鄉勇團練到湘軍還有很長的一段距離要走，完成這段距離的正是曾國藩。值此亂世，湖南盛行經世致用的理學思想，在清朝，湖南是一個相對落後的地方，但湖南人天生有一種強烈的「成功」慾望。
江忠源還活著的時候，曾國藩就建議訓練一萬人，一舉拿下天京。這一萬人就是湘軍最早的骨幹，如何治理這支軍隊呢？
曾國藩是這樣說的：「帶領湘軍的小頭目，第一要求能夠治理百姓，第二要求不怕死，第三要求不在乎功名利祿，第四要求能夠吃苦耐勞。」曾國藩用人最注重忠義血性，只有這樣的人才是可靠的，所以他最怕用那種智巧的人，更怕用像自己城府這麼深的人。曾國藩不愧是一個深邃的領導者。
在湘軍的將領中我們發現這樣一個現象，讀書人當將軍的比武夫多得多。還別說，真管用，這些讀書人都是曾國藩精挑細選出來的，也許拎不起斧頭，但是骨頭都是很硬的。
曾國藩對士兵也有嚴格要求，優先選擇年輕力壯的農夫，如果會玩一些兵器的更好，但凡油頭滑面的一概不收。有市井氣（市民氣、俗氣）的也不收，有官僚氣的更不收。曾國藩本身是個官僚，居然如此歧視官僚，這個人做領導簡直到了化境。
為了防止士兵們逃亡，曾國藩在招募的時候就各個營官到自己老家去招兵，這些兵的家庭住址父母兄弟等信息全都記錄在案——跑得了和尚跑不了廟啊，點名時人不在，行，到你家裡去找。曾國藩用書生管理農民，確實很有創意。
為了保證將士們英勇作戰，曾國藩還提高他們的薪水。曾國藩的錢哪來的？小部分是清廷撥款，大部分還是自己籌措的，在籌錢這塊，他有一個智囊團，可以從各種途徑獲取銀兩。劉蓉和郭嵩燾都是理財和搜刮的高手。所以，湘軍的拿的錢有綠營兵三倍多，連打仗都受經濟規律影響啊。
至於將士的薪水，曾國藩是這樣安排的：帶五百人，一年可以拿三千兩銀子，依次遞增，如果能帶一萬人，一年可拿六萬兩黃金。這種激勵作用是相當大的，只要你有本事，不怕死，就有可能發財。
曾國藩這人還挺有創造力，雍正無中生有創立個軍機處，他曾國藩也創立了一個營務處。營務處相當於一個參謀機構，專門負責培養軍事人才，相當于軍營里的軍校。
曾國藩管理將領有四字秘訣：勤、恕、廉、明。所謂勤就是說當將領的一定不能懶，將領一懶，軍紀就會渙散，凡事都要親臨第一線，了解種種細節，然後再作決定。所謂恕就比較難理解了，大家應該兇狠才對，為什麼要強調恕呢？曾國藩認為大家都是湖南人，都是鄉親，應該親如兄弟，不要動不動就責打士兵。所謂廉很好理解，當將領的一定要廉潔奉公，這樣士兵才會賣力。所謂明就是要明察秋毫，不能被下面的人糊弄。
在軍中，曾國藩號召大家要吃苦耐勞，提出了四耐：耐冷、耐苦、耐勞、耐閑。
曾國藩在組建湘軍時，借鑒了戚繼光的經驗，同時結合清朝現有的兵制。曾國藩以營為基本定編單位，初設每營三百六十人，後設五百人。在每一個營中，十人為一隊，但實際上一個隊有十二個人，還包括隊長和斯養，斯養到底是個什麼人呢？其實就是一個燒飯洗衣服的，打仗中也需要這樣的人。八個隊又組成一個哨，在每個哨中，第一隊和第五隊配備抬槍，抬槍大概有三十斤左右，相當於那時候的重機槍。二、四、六、八隊配置大刀和長矛，第三和第七隊配置小槍。四哨為一營，營官除了指揮四哨之外，還有六隊親兵，第一和第三隊親兵是炮手，二、四、六隊用的武器還是刀和矛，第五隊是長槍隊，沒有哨長，親兵總共七十二人。
一個營里，各個兵種搭配比較均衡，就好像一道營養均衡合理的菜，上了戰場自然有威力。除此之外，曾國藩還增加了長夫制和帳棚制。打仗並不簡簡單單就是拿起武器上戰場賣命，除了賣命之外，它還是一項浩大的工程。在清軍中，沒有專門用來搞後勤的士兵，後勤也不光是運糧草做飯那些，有時候還包括修築河工、守護好漕運等等事情。
一碰到需要大量人力物力的時候，清軍就到處抓人來做苦力，這麼做法是典型的擾民。曾國藩親自在第一線，他知道老百姓都很反感官兵一有事情就抓人去做，所以他特地增加了長夫制和帳棚制。什麼是長夫制呢？也就是說每一個營配備一百八十個長夫，這些人就是用來幹活的。以後，士兵可以專心作戰，不必當全能士兵了，打好仗就行了。所謂帳棚制就是各營自帶帳棚，確保紮營的時候士兵有地方住，這就避免了士兵們搶佔民房，說白了也是為了嚴肅軍紀，取得老百姓的支持。
不同的人領導的湘軍營制也不相同，只是說曾國藩的營制是主流，也是最成熟最有效果的。
曾國藩對練兵也非常重視，這一點跟楊秀清是一致的。曾國藩曾說，有兵不練跟沒兵一個樣，兵不練精跟沒練一個樣。所以曾國藩從不讓新兵上戰場，要上戰場首先在練兵這塊已經過關了，這就是為什麼老師吳文熔和好友江忠源戰死的時候，曾國藩一直沒有伸出援手。不是他不想，而是他不想把自己的家底全部賠進去，要想不賠，必須將兵練精，曾國藩深深懂得兵貴精不貴多的道理。
在陸軍這塊，太平軍和湘軍勢均力敵，但太平軍的水師明顯比不上湘軍。雖然太平軍水師數量龐大，但編製非常混亂，作戰效率很低。
打仗有時候打的是政治，曾國藩這人在政治上非常高明，為了統一軍心，振作士氣，他親自編寫了不少軍歌，其中有《愛名歌》《解散歌》《陸軍得勝歌》《水師得勝歌》等。
而且，曾國藩討伐太平天國的檄文非常高明，他一下子就抓住了對方的要害。曾國藩閉口不談民族矛盾，他死死揪住太平天國打倒孔教、打倒傳統這點，把這場鎮壓農民起義的戰爭變成東西方的文化之爭，變成孔子與上帝之爭。在當時的中國，誰更有市場一看就知道。曾國藩還強調地域矛盾，說太平軍在廣西起家，只注重廣西人，把其他省份的人看得豬狗不如。
不久，胡林翼的湘軍也併入曾國藩的部隊中，曾國藩領導的湘軍已經初具規模，足以和太平軍抗衡了。
世事真是因緣巧合，曾國藩辦湘軍原本只是為了給江忠源補充兵源，沒想到江忠源戰死，他自己不得不從幕後走到台前。我們不知道曾國藩對這樣的結果是感到高興呢還是壓力很大，總之他真的站出來了。
剛開始的時候，曾國藩也不是很順利。
太平軍將領林紹章進入湖南後，一路攻城略地，佔領了不少地方。隨後，林紹章打算佔領湘潭和靖港，然後圍住長沙。曾國藩讓滿洲將領塔齊布率一千三百人、江忠淑率兩千人，前往湘潭阻止太平軍。
塔齊布和江忠淑抵達的前一天，林紹章已經拿下了湘潭。塔齊布和江忠淑都認為趁著太平軍尚未站穩腳跟，立即進攻。林紹章也可算得上是一員猛將了，加上他指揮的是太平天國的精銳部隊，所以難免不把湘軍放在眼裡。正因為這樣，一交戰的時候他就傻眼了，他是真沒想到這次遇上勁敵了，這些訓練完不久的湘軍居然比清廷的正規軍還能打。
其實湘軍人數也不多，也就三四千人，林紹章萬萬沒想到自己手下身經百戰的將士居然被這些鄉勇打敗。倉皇之中，太平軍退入城內堅守。
這時，曾國藩的水師部隊也抵達湘潭城外，水陸兩軍聯合作戰。林紹章也不服氣，他是真不信這些人真這麼厲害，覺得一定是僥倖。可惜，事實就這麼殘酷，由不得林紹章不信，林紹章十次出戰十次失敗，打到最後手下的人都快死光了。走投無路之下，林紹章帶著四個親兵連夜出城逃到靖港。
曾國藩心血來潮，想親自指揮攻城戰，拿下靖港。諷刺的是，曾國藩訓練出來的湘軍雖然無敵，但他自己指揮起來卻手忙腳亂，就像一個新手第一次駕車一樣。湘軍的兵力雖然是城內太平軍的幾倍，居然屢次被太平軍擊敗。一旦失敗，就有人想開溜。曾國藩治軍甚嚴，他拿著劍站在大旗後面，大聲說：「過旗者斬。」
很多鄉勇也很聰明，他們不過旗，而是繞著旗逃跑。曾國藩氣得都快吐血，居然跟江忠源一樣投水自殺，幸虧被屬下救了。
羞憤歸羞憤，既然活下來就得好好活著，開心地活著。靖港一戰，曾國藩大敗，但為了鼓舞自己生存的信心，他居然在給咸豐的奏摺里巧妙地把這次慘敗說成是小勝。曾國藩確實有人