李鴻章不好直接去問，恰好「同年」、前翰林院庶吉士陳鼐正在曾國藩幕府中，他就托陳鼐前往打探。
陳鼐見到曾國藩後，旁敲側擊不得要領，乾脆打開天窗說亮話：「少荃（李鴻章）願侍奉老師，順便歷練一下，積累一些經驗。」
得知陳鼐的來意，曾國藩也闡明了沒有馬上接納李鴻章的原因：「少荃翰林也，志大才高，這裡局面狹窄，恐艨艟巨艦，不是潺潺淺流所能容納的，他為什麼不回京供職呢？」
知生莫如師，曾國藩素知李鴻章才氣縱橫，豪宕不羈，是塊好材料，但好料也還需繼續打磨，如果對方不願接受，倒不如先把醜話說在前面。
陳鼐忙道：「少荃經歷了許多磨難，非原先可比，老師為什麼不給他一個機會，試試看呢？」
曾國藩點點頭，這才同意讓李鴻章入幕。
打磨從李鴻章入幕的第一天就開始了。曾國藩的作息極有規律，每天一早起來，六點鐘就吃早飯，而且每頓飯必召集幕僚一齊吃。合肥一帶的風氣白天吃飯較晚，李鴻章也早就養成了貪睡的習慣，就找借口說頭疼，想在被窩裡再賴一會兒。沒想到不一會兒差弁、巡捕都絡繹而來，說是曾國藩一定要等所有幕僚到齊才肯動筷，否則寧可不吃。
萬不得已，李鴻章只好披上衣服，踉蹌著跑去吃飯。飯桌上的氣氛很是壓抑，因為曾國藩從頭到尾一句話也不說，直到眾人都吃完了，他才把筷子往桌子一放，然後正顏厲色地對李鴻章說：「少荃，你既然到了我幕中，我有話要告訴你，我這裡所崇尚的僅有一個『誠』字。」說罷，拂袖而去，李鴻章從未領教過被當眾嚴詞訓斥的滋味，受到極大震動，以致好半天都沒能回過神來。
曾國藩並不是故意要給李鴻章難堪。事實上，他是在用「誠敬」二字打磨李鴻章。所謂誠，是不欺己不欺人，反映在現實生活中，是不撒謊。所謂敬，是勤慎有恆，反映在現實生活中，是早起床。
不撒謊、早起床看起來似乎是小事，但只有從點滴入微，把這樣的小事做好，方能負巨艱，當大難，否則一切都無從談起。
「我老師實在厲害」，這是李鴻章被曾國藩訓斥後的最直接最真實感受。從此，他再也不敢貪睡了，每天一大早就逼著自己從床上爬起來，胡亂盥洗一番後趕緊跑去點卯吃飯。一開始還真有點受不了，不過慢慢地就習以為常，並且漸漸也不覺得苦了。後來他獨立辦事處處勤勉謹慎，可以說都是曾國藩一手造就出來的。
李鴻章能夠及時投奔曾國藩實在是他的幸運。他自己也說，他拜過很多老師，但都不及「此老翁」（指曾國藩）善於教化。
曾國藩平時都和幕僚們一同吃飯，吃完飯大家就圍坐在一起，或者談經論史，或者研究時局，「吃一頓飯，勝過上一回課」。甚至於有人給曾國藩送東西，他也會拿來給幕僚們看，問該不該收。大家眾說紛壇，有的說該收，有的說不該收，說法不一，各有側重。等眾人發言結束，曾國藩又在不與任何一個人觀點「撞車」的情況下，獨抒己見，並且說的道理還能折服在場的所有人。要知道，曾氏幕府藏龍卧虎，人才極多，能做到這一點，豈能不令人心服口服？
曾國藩召集幕僚議論，不是他真的對收受禮物拿不定主意，而是如同教導李鴻章要「誠敬」那樣，為了要將為人處世的態度和方法潛移默化地灌輸給身邊的人。
身為統兵大帥，曾國藩同樣堪稱完美。李鴻章先後跟過呂賢基、福濟，但兩人在軍政方面其實都茫茫然沒有什麼主意，與之相比，曾國藩彷彿指南針，他會抓住任何一個細節，隨時、隨地、隨事地進行點撥，足以令每一個幕僚和部下獲益匪淺。
李鴻章秉性高傲，一生很少把別人放在眼裡，但他最佩服曾國藩，開口必稱「我老師」，敬如神人一般。很多年後，他還告訴曾國藩的孫女婿吳永：「你太丈人文正公（曾國藩）是我老師，可惜你未曾見著。我老師那真是大人先生，現在這些大人先生，簡直都是秕糠，我一掃而空之！」
曾國藩一方面著意對李鴻章進行訓導磨鍊，另一方面也不忘放手使用。李鴻章入幕後，初掌文書，繼而又負責批閱公文、起草書牘和奏摺。他在京時就幫助呂賢基辦理此類事務，自然是把好手。曾國藩很滿意，當著別人的面誇讚李鴻章：「以少荃的天資，辦理公牘是最適合不過的。所擬文稿都遠遠超過了一般人，將來必定大有作為，甚至可能青出於藍而勝於藍，成就更勝於我，這也說不定。」
湘軍內部有兩個很重要的機關，一個主餉，稱為糧台；一個主兵，稱為營務處。營務處並非湘軍獨創，綠營本來也有，其作用與現代社會的參謀處類似，用於輔助主帥，參與平時練兵和戰時用兵等軍中事務。不過湘軍的營務處除此功能外，還實際擔負訓練將才的作用。
幕僚之中，凡是經過曾國藩親自考察，認為可以儲為將才的，就會被放到營務處學習軍務，以為異日出任將領做準備。李鴻章在幕府待了一段時間後，就奉命隨曾國荃往前敵辦理營務處，其間曾國藩在信中一再叮囑他對軍務務必度德量力，用心一一加以體察。