一八五九年一月，懷著悲涼心情自稱「書劍飄零舊酒徒」的李鴻章，終於受到命運之神的惠顧，從一個潦倒失意客一躍而成為湘系首腦曾國藩的幕賓，從此他的宦海生涯又翻開了新的一頁。
李鴻章無家可歸，只好收拾簡單的行囊攜帶老婆孩子出逃。他輾轉來到南昌看望母親，在哥哥的幫助下，他見到了在建昌的曾國藩。當時曾國藩的局面也不好，正面臨三河慘敗的情勢。雖說湘軍在曾國藩的帶領下是兵多力壯，一派朝廷之師的威武氣象，但湘軍旗下真正可用的人才並不多。曾國藩迫切需要一個得力的助手，一個有才華、善通變，能夠處理具體事務的幹將。而此時，在李瀚章的安排下，曾國藩驚奇地發現，端坐他面前的李鴻章言談舉止卓越超群。他那評判政事的尖銳深刻，那軍旅生涯磨礪出的求真務實，那敢於面對失敗的勇氣，那追求上進施展才華的抱負，都讓曾國藩欣賞有加。曾國藩知道，現在的李鴻章，已經不再是京城翰苑中的那個文弱書生，他的身上既增添了幾分成熟，又激盪著年輕人的豪氣，同時也有渴望幹一番大事業的雄心壯志。這次會面之後，曾國藩決定把李鴻章留在身邊。於是，李鴻章成為曾國藩的幕僚，並從此開始了他們之間長達數十年的師生之情。
一八五三年，曾國藩以在籍侍郎的身份，受命幫辦湖南團練事宜，他看出「兵伍不精」是清王朝的大患之一，決心獨樹一幟，改弦更張，編練一支新式武裝，以挽救清朝統治。一八五四年二月，他編成並督率湘軍水陸兩軍，沿湘江北上抗拒太平軍。湘軍有別於清朝常備軍，它是漢族地主武裝，「以招募易行伍，盡廢官兵，使儒生領農民，各自成營」。曾國藩「在京官時，以程朱為依歸，至出而辦理團練軍務，又變而為申韓。」他採取傳統的「以上制下」的戰略方針，先清兩湖，穩定後方，繼而把軍鋒指向江西和安徽。一八五八年七八月間，曾國藩先後奉命馳赴浙、閩，進擊分裂出走、放棄江西根據地、盤旋浙閩的石達開部太平軍。十月，他率部到達建昌，未及入閩，石達開部即由閩入贛，轉進湖南，鋒銳大挫。是時江南軍情漸鬆，而江北卻風雲突變。面對江南、江北大營進逼天京、湘軍圍攻安慶、三河、威逼廬州的嚴峻形勢，陳玉成、李秀成兩支主力太平軍聯合作戰，首先摧毀江北大營，解除天京北面威脅，繼而在安徽三河全殲李續賓所部湘軍精銳六千餘人，擊斃李續賓和曾國藩胞弟曾國華以及文武官員四百多人。包圍安慶的湘軍，見勢不妙，慌忙逃跑，安慶之圍不戰而解。曾國藩因「江北軍情變幻」而驚恐萬分，哀嚎「嗚呼慟哉！」十二月奉命移師援皖。
在這種形勢下，李鴻章趕到建昌拜訪了曾國藩。李瀚章是曾國藩與李鴻章結合牽線搭橋的人，李瀚章於一八四九年以拔貢朝考出曾氏門下，一八五三年署湖南善化知縣，當時在衡陽帶兵的曾國藩檄調來營，襄辦糧台，遇有戰陣，也督隊指揮。曾國藩稱讚他「內方正而外圓通，辦事結實周詳，甚屬得力。」一八五七年一月，湘軍糧台裁撤，歸併江西省局，瀚章回籍為其父守制，安徽巡撫福濟奏留辦理團防捐務。一八五八年，曾國藩檄調瀚章赴江西總理糧台報銷，瀚章遂奉母同住。曾國藩十分器重瀚章，而瀚章也把曾國藩倚為靠山。瀚章既經常向曾國藩通報鴻章在皖情況，有時甚至將其弟家書轉呈曾國藩過目；又時時向鴻章介紹曾國藩的宦海浮沉和吹捧其道德學問。瀚章在其弟與曾國藩之間起著溝通情感、增進瞭解的作用。時值鴻章到南昌看望老母，曾國藩便乘機通過瀚章邀請鴻章前來會晤。一八五八年十二月，曾國藩函告友人說：「筱泉家被賊焚劫，挈眷至南昌，日內亦即來營，少荃亦約來此一敘。」曾國藩與李鴻章早就結下了師生之誼，曾國藩稱譽弟子為「偉器」，李鴻章敬佩其師如「神聖」。他倆有相似的追求：撲滅太平天國烈火、維護清朝統治以期封侯蔭子、光宗耀祖；又有相互利用之必要，曾國藩希望藉助李鴻章之才以成「大業」，李鴻章企圖依靠曾國藩援引以立功名。
對李鴻章的才識，曾國藩早有所知，但認為他性情不穩，妄自尊大，所以故意不見他。一個多月後，李鴻章又託人說情，曾國藩說道：李鴻章也是翰林，志大才高，我這裡局面窄狹、只是一條淺溝，容不下他這條大船呀，他何不回京供職？經反覆說情，李鴻章終在一八五九年一月入曾國藩幕，成為曾的幕賓。其實，曾國藩並非不想要他，只是想打一打他的傲氣，讓他更加內斂沉穩。
在曾國藩幕，李鴻章辦理行文、批閱公文，起草書牘、奏章。曾國藩最負盛名的參摺《參翁同書片》，即出自李鴻章之手。任安徽巡撫的翁同書是咸豐皇帝和恭親王的老師，歷任工部、戶部尚書翁心存的長子，其弟即大名鼎鼎的翁同龢。這道參摺指責翁同書舉措不當、守城不力、棄城而逃，應予嚴懲。以翁家的權勢，要將其扳倒談何容易，所以曾國藩極其重視，要文案房多擬幾份草稿備選。在好幾份草稿中，他選中李鴻章稿。如此重要之摺，卻只區區不到六百字，可謂字字千鈞，句句見血。此摺歷數翁同書忠奸不辨、誤用歹人、措置失當、貪生怕死、連失兩城的罪狀，然後指出翁的幾道奏摺的自相矛盾之處，反駁他的種種自辯，令其無繼續辯解的任何餘地。此摺最後寫道：翁同書有如此行為「豈宜逍遙法外？應請旨即將翁同書革職拿問，敕下王大臣九卿會同刑部議罪，以肅軍紀而昭炯戒。臣職分所在，例應糾參，不敢因翁同書之門第鼎盛瞻顧遷就」。一句「不敢因翁同書之門第鼎盛瞻顧遷就」，即將朝廷因翁同書之「門第鼎盛」本想「瞻顧遷就」從輕發落的「後路」封死，委實老辣。朝廷只得並不情願地按規定將翁同書判「擬斬監候」。所以曾國藩稱讚說：「少荃天資於公牘最相近，所擬奏諮函批，皆有大過人處，將來建樹非凡，或竟青出於藍，亦未可知。」而李鴻章也向人表示自己從前也輔佐過其他將帥，但「芒無指歸」，入曾幕才「如識南針，獲益匪淺」。
曾國藩生活極有規律，每天很早就起床查營，然後在黎明時分與幕僚共進早餐，或談一天工作安排或隨意談天說地。初到曾國藩幕時，比較懶散的李鴻章很不適應這種規律、刻板的生活，深以為苦。一天早晨，他以頭痛為名想多睡一會兒，但曾國藩知道他是裝病多睡，所以幾次派人請李鴻章起來一起吃飯，最後告訴李鴻章必須所有幕僚全都到齊才開飯，李鴻章匆忙披衣「踉蹌前往」。曾國藩吃飯時一言不發，飯後嚴肅地教訓他說：「少荃，既入我幕，我有言相告，此處所尚，唯一『誠』字而已。」說罷生氣地拂袖而去，李鴻章「為之悚然」。曾國藩素知李鴻章「才氣不羈」，故對他要求格外嚴格，盡力雕琢，陶冶其性情，培養其道德。許多年後，李鴻章對人回憶說：「在營中時，我老師總要等我輩大家同時吃飯；飯罷後，即圍坐談論，證經論史，娓娓不倦，都是於學問經濟有益實用的話。吃一頓飯，勝過上一回課。」
李鴻章入幕不及一旬，曾國藩就決定請他主持編練皖北馬隊，附於湘軍。編練馬隊之舉，發軔於左宗棠的提議。左宗棠（字季高）是湖南湘陰人，舉人出身，初入湖南巡撫駱秉璋幕，後來成為湘軍首領之一。曾國藩就左氏提議同胡林翼協商。胡林翼〔字貺生，號潤芝，道光進士〕時任湖北巡撫，為湘軍二號首領。胡氏支持編練馬隊，曾國藩隨即上疏清政府，慷慨陳詞。曾國藩所以力主編練皖北馬隊，是鑒於太平軍和捻軍的騎兵「多而且悍」，湘軍陸軍如無馬隊配合，難以制勝。他通報左宗棠：「閣下去年囑弟留心馬隊，弟以調察哈爾之馬練淮南之勇人奏。」他原擬調察哈爾馬三千匹，令李鴻章招募亳州一帶「善馬之勇」千人。清政府對曾國藩編練馬隊持肯定的態度，但又下令「斟酌採買」馬匹。根據朝廷的命令，曾國藩修改了募勇計劃，決定先招五百，試行操練，如其可用，再行續招三千。李鴻章雖然承認編練馬隊確係當務之急，但卻深感事體重大，缺少經驗，勝敗難卜，考慮再三，未敢輕許。李鴻章專程前往南昌與哥哥相商。李瀚章贊成其弟意見，致函曾國藩，代為辭謝。曾國藩堅持既定方針，寫信勸勉李氏兄弟「不必遽以往事之難為慮」。話已至此，李鴻章只得應命，派「專人至淮上招募馬勇」。然而當時兩淮地區太平軍和捻軍協同作戰，聲勢較壯，清軍處於被動挨打的地位。動盪的局勢，人心的向背，迫使招勇之人空手而歸。這樣，曾國藩建立馬隊的計劃就流產了。
六月，早已移駐撫州的曾國藩，鑒於太平軍猛攻景德鎮，擔心湘軍張運蘭部不支，急派曾國荃率部往授，並命李鴻章同往。曾國荃（字沅浦）是曾國藩胞弟，所部為曾國藩嫡系。李鴻章心高氣盛，希望獨統一軍，不願寄人籬下，心情鬱鬱，有意他去。曾國藩賞識李鴻章之才而不滿其虛驕之氣，於是一面借用上方寶劍阻其去路，疏留說：李鴻章「久歷戎行，文武兼資，堪以留營襄辦」；一面對其曉之以理，誘之以利，說「閣下閎才遠志，自是匡濟令器」，「倘為四方諸侯按圖求索，不南之粵，則東之吳，北之齊豫耳。」李鴻章既不敢抗旨，又感戴其師「薦援」之恩，因而決計前往