曾國藩做官非常成功。他從一介書生起家，創建軍隊，統率群雄，挽狂瀾於既倒，扶大廈之將傾。他善於進退，在剿滅太平軍之後，功名事業如日中天，這時他卻能極度冷靜，在大盛之中察覺大衰的先機，毅然上疏辭去節制四省的大權，並採取果斷手段，裁撤自己的權力之本——湘軍。他一生出將入相，沒有大的跌挫，在傳統官場上像他這樣成功者並不多見。
曾國藩成功的基礎，是他深通官場韜略。曾國藩的官場功夫如同太極高手，善於化解種種難題於無形之中。他的謀士趙烈文記載了這樣一個有趣的故事：
咸豐九年，有一個神秘人物帶著數名隨從出現在桐城，他自稱是來自北京訪察各地軍務的大員，行動故作詭秘，說話神神叨叨，有大員被他的氣場俘虜，對他施以君臣之禮，他也公然接受不辭。人們紛紛以為是親王貴戚甚至是皇帝本人微服私訪，驚疑不已。
他以黃紙為詔，命一知縣送達曾國藩大營。曾國藩覽其「詔」，文中有時自稱「予」，有時自稱「朕」，「文理荒紕，字多訛誤」。但字裡行間，似乎又頗透露了一些京城政治內幕。如果放在以前，曾國藩一定會迅速逮捕其人，送達京師治罪。但此時的曾國藩已經洞徹「不生不滅」法的妙處，不想因此「興起大獄」，將此信放在一邊，「置之不問亦不究」。此人見訛詐曾國藩不成，轉而「傳詔」於湖廣總督官文，官文執其人審問，「不得實，亦未深究」，此人「後遂不知下落」。
曾國藩本是一個智商平平的人。曾國藩從十四歲起參加縣試，前後考了七次，到二十三歲才考上秀才，而且還是個倒數第二名。比較他同時代的名人，他的平庸一目了然。小他一歲的左宗棠，十四歲參加湘陰縣試，名列第一。李鴻章也是十七歲即中秀才。比曾、左、李稍晚的梁啟超更是天資超邁，十一歲中秀才，十六歲中舉人。
梁啟超說：「文正固非有超群絕倫之天才，在並時諸賢傑中稱最鈍拙。」左宗棠一向瞧不起曾國藩，屢屢不留情面地批評他「才短」，「欠才略」，「才亦太缺」，「於兵機每苦鈍滯」。學生李鴻章也當面說過他太「儒緩」。曾國藩自己也常說「吾生平短於才」，「秉質愚柔」。他說，自己讀書做事，反應速度都很慢：「余性魯鈍，他人目下二三行，余或疾讀不能終一行。他人頃刻立辦者，余或沉吟數時不能了。」
他不凡的做官本領，大半來自磨鍊。
曾國藩早年是一個典型的憤青。單線思維、唯我獨革、憤世嫉俗、矯激傲岸。做起事來手段單一、風格強硬、純剛至猛、一往無前。他對人總是持有一種「眾人皆醉我獨醒」的心態，因此處處碰壁，動輒得咎。比如他給皇帝的奏摺，「戇直激切，不講究方式方法」，那道《敬呈聖德三端預防流弊疏》曾惹得咸豐皇帝大怒，差點引來殺身之禍，也給咸豐留下了曾國藩勇於犯上、桀驁不馴、難以駕馭的印象。這也是後來咸豐皇帝對他不能信任，不敢給他大權的重要原因之一。曾國藩雖然在官場中學到了一些皮毛權術，卻有畫虎不成之患，他在家書中說：「至於官場交接，吾兄弟患在略識事態，而又懷一肚皮不合時宜，既不能硬，又不能軟，所以到處寡合。」
曾國藩所處的晚清時代，官場非常腐敗，軍隊極端腐朽，國家軍隊已經無法平定大難。因此他自創湘軍，領兵征戰。然而，曾國藩剛正嚴厲的作風、正人君子的氣質和地方官員卑鄙下作的品性相厭相剋。而與此同時，朝廷認為，一個在籍侍郎，振臂一呼，就集兵數萬，非國家之福，對他不敢放手使用。曾國藩帶兵三年，一直沒有個正式的名分，孤懸客處，用兵用人用餉無處不難。由於他沒有明確的職權，又拒絕和地方官同流合污，雖然為保衛疆土輾轉各省，卻處處受排擠刁難。幾萬大軍的軍餉地方上一直拒絕供應，左支右借，常常是有上頓沒下頓，常常餓著肚子打仗。
正在這時，他接到了父親的訃告。他立刻上疏要求回家守孝，並且一股腦地把自己壓抑已久的愁苦憤懣都說了出來。他期望這回皇帝會體諒他的苦衷，授予他職權。
可是咸豐皇帝還是不能相信他。適值此時太平軍的勢力日漸消退，沒有曾國藩好像也沒有大礙。於是順水推舟，批准他回家守制三年，實際上即解除了他的兵權。
這當頭一棒差點把曾國藩打昏。他萬沒料到苦戰數年，功高勞苦竟是這樣一個結果。這對於一心建功立業並為此鞠躬盡瘁的他是一個極大的打擊。那些平時和他作對的地方官一個個喜形於色。咸豐七年二月，曾國藩灰溜溜地回到了鄉下老家，心情極度惡劣。曾國藩把自己關在屋子裡，反覆閱讀經史及老莊，把自己起兵以來的種種情形在大腦中一遍遍過電影，苦苦思索自己失敗的原因。
經過一年多的鄉居，再出山時，曾國藩如同變了個人。他斬關奪隘，沒有被挫折打垮，反而本領大長。行動做事，由原來的方正，一變而為圓通。咸豐八年，由於戰局重又緊張，皇帝不得不重新起用曾國藩。這次，他再不提任何條件，立刻出山，他到了長沙，首先拜遍大小衙門，連小小的長沙縣衙他也親自造訪。對那些原來芥蒂頗深的地方官，他極盡拉攏撫慰之能事，「啖之以厚利」。他在家書中說：「余昔在軍營不妄保舉，不亂用錢，是以人心不附。近日揣摩風會，一變前志。」他不再鋒芒畢露，而是世故圓滑，以他人的私心私利為自己所用，大剛若柔，大智若愚，這套儒道融揉的老練神鬼莫測的神態在官場上如魚得水，從此他用人備餉比以前大為順利。
在其他方面，曾國藩變化也很大，他早年為人比較仁柔，「沅弟言我仁愛有餘而威猛不足，澄弟在此時常說及」。但是後來就改掉了這個缺點。為官後期他說：「吾行軍多年，視將士如子弟至於執軍法以誅敗類，必有餘矣。」其中霸氣可見。
越到晚年，歷事越多，曾國藩的做官術就越老練，也越平淡：「近來閱歷萬變，一昧向平實處用功。非委靡也，位太高，名太重，不如是，皆危道也。」他已經能做到看透官場上的興衰，絲毫不動心了：「凡做到十分熱鬧時，閣下謂看者之局將散，而不知唱者之興已闌，憑他轟轟驚天動地，究與自家絲毫無與。」
曾國藩做官成功的另一個原因，是他善於研究歷史經驗。他愛讀總結做官經驗的書，日記中常見「閱《從政遺規》，將摘抄一二，以自纂《吏治要言》」之類的記載。曾國藩非常仰慕清代名幕汪輝祖，並專門研讀他寫的佐幕官箴。「閱汪龍庄先生輝祖所為《佐治葯言》、《學治臆說》、《夢痕錄》等書，直至二更。其《庸訓》則教子孫之言也，語語切實，可為師法。吾近月諸事廢弛，每日除下棋看書之外，一味懶散，於公事多所延閣，讀汪公書，不覺悚然！」直到生命彌留之際，他還念念不忘《五種遺規》和《名臣言行錄》這兩本書。通過讀史，曾國藩總結出具有普遍意義的「居官四敗」：「昏惰任下者敗，傲狠妄為者敗，貪鄙無忌者敗，反覆多詐者敗。」
除此之外，曾國藩還特別愛讀歷史書、哲學書。他一生對《易經》十分重視，用力至勤。考《曾國藩日記》，曾氏一生，至少五次通讀《易經》。他從這部古老的經典中讀出了辯證法，讀出了大量為人處世的道理，這些都對他在官場上的姿態產生了深刻影響。「昔人以宦海為喻，孤舟一葉，日顛覆於洪濤巨浪之中，力稍怯不能把舵，即落水矣。」官場上表面上大家一團和氣，背後卻處處殺機，其中玄機萬端，極難把握。「京師物議與樞密消息隨時變遷，設有上下交推，眾望所歸者，轉瞬為人所唾棄，亦有群疑眾謗，眾議沸騰者，轉瞬又風平浪靜。」他深知月盈則虧水滿則溢之道，在順利之時，總能想到危險。「大約凡作大官，處安榮之境，即時時有可危可辱之道，古人所謂富貴常蹈危機也。」他善於體察「時」機，從而做出最有利於自己的抉擇。「凡有盛必有衰，不可預為之計。望夫人教訓兒孫婦女，常常作家中無官之想，時時有謙恭省儉之意，則福澤悠久，余心大慰。」
在對待金錢上，曾國藩的態度也很獨特。
曾國藩的資料中有一件有意思的事，他給總督府的女眷定了一個功課表，因為曾國藩不允許在總督府內僱傭太多的僕人，人手不夠用，曾國藩要求自己的女眷自力更生，自己動手做家務活。同治七年，曾國藩給女兒、兒媳婦定了一個工作日程表。每天早飯之後要做小菜、做點心、做酒漿，叫食事。上午紡花或織麻，叫衣事。中飯之後做刺繡之類的細工，晚上還要做鞋，這是粗工。所以總督府的女眷從早上睜開眼到晚上休息，幾乎歇不了。如此的總督府家眷，我相信在大清王朝肯定找不到第二家。當時每天晚上，在南京的總督府里，曾國藩在一邊秉燭批閱公事，他的女眷在一邊點燈織布，應該說這是中國歷史上非常動人的畫面。這是曾國藩的清廉一面。
他身上也有「濁」的一面。曾國藩也大吃大喝，在同治十年，曾國藩有一次到蘇州去檢查工作，他每天大部分的日程就是接受當地官員宴請。到臨走前，他也擺了兩桌回請蘇州的官員。