即將出任方面大員，李鴻章也組建了他的秘書班子。
李鴻章的幕僚中，第一個是他的同鄉書案周馥周玉山，此人將終生追隨李鴻章，替李鴻章掌管印信。從此二人不離不棄，相伴一生，到李鴻章臨終之時，就是周馥親手替李鴻章合上雙眼。
第二個是凌煥凌筱南，他曾給曾國藩上疏言兵事十二條，引起了曾國藩的關注。他是最富經驗的老幕，舉凡行政上的大小事情，他都瞭然於心，只要有他在，幕府中就不會有什麼問題。
第三個人是周含芳周薌林，他少孤，從其兄劉瑞芳受教發矇，他曾經上條陳議戰守方略。此人謹慎心細，此後將由他來負責軍械糧餉等後勤供應。
這三個人，都是淮上人氏，自打李鴻章來到曾國藩幕府，他們四人就彼此感受到了一種精神上的感應。周馥等人寄希望於李鴻章帶他們闖出一番事業來，而李鴻章卻視他們為寶貴的行政人才，以此打造自己的幕府班底。
船行三日，據周馥記載：當輪船過金陵時，南岸下關、北岸九洑洲，沿岸擺開一望無際的太平軍營壘，森森火炮對準了在風浪中顛簸起伏的火輪船。頭扎紅巾的太平軍，手持武器，昂首肅立，與船上的淮軍近在咫尺。談笑在耳，呼吸相聞。
李鴻章及六百名淮兵，蜷縮於船艙之中，大氣也不敢喘。
1862年4月8日，李鴻章抵達上海。
碼頭邊上，聚集著黑壓壓的人群，舉行了盛大的歡迎儀式。到場的主要官員有：駐防上海的通商大臣薛煥，蘇松太道、署理江蘇布政使吳煦，鹽運使銜蘇松糧儲道楊坊，英國駐上海領事麥華陀，洋槍隊（已改名為「常勝軍」）隊長華爾。
余者還有團練大臣龐鍾璐，他是探花出身，文人帶兵，日夜盼著李鴻章來接過這個爛攤子，他好返回北京城與兩宮太后吟詩作畫。
在籍朝官殷兆庸，這是一個鄉土觀念極強的官員，誰敢跟上海父老過不去，他就跟誰過不去。所以李鴻章在上海立足需要靠他，後來他將迅速轉變為李鴻章的敵人。
此外還有在籍刑部郎中潘曾瑋，在策劃淮軍赴滬的事情上，他也是出了大力之人。
應寶時和吳雲，這兩人是中外會防所的人，主要職責是與洋人打交道。同時他們也是楊坊的心腹，構成了對李鴻章權力的威脅。所以此後李鴻章將分化瓦解這個政治組合，最終的結果，卻是非常出人意料。
在場歡迎的人還有最善治印的楊慶麟，喜歡寫詞的潘馥。後面這個潘馥，是錢鼎銘第二次赴安慶的同伴，目睹了錢鼎銘以哭聲為李鴻章贏得了滬上機遇。
參加這個歡迎儀式的人，都是有頭有臉的人物，或是朝廷大員，或是當地官吏，或是有名望的人士。唯獨他們歡迎的人李鴻章，說起來有點兒尷尬。
李鴻章沒有身份。
江蘇巡撫薛煥挪到通商大臣的位置上去後，曾國藩立即上奏，推薦李鴻章署理江蘇巡撫。但這個奏章上去之後，朝廷那邊卻悄無聲息，就好像沒收到一樣。實際上，正是因為這樣一個客觀原因，曾國藩才考慮讓弟弟曾國荃出馬，曾國荃再差勁兒，好歹有個拿得出手的官位，而李鴻章，他目前的正式職務，叫遺缺道。
遺缺道的意思，就是相當於副廳級的幹部級別，但沒有位置安排，最多不過是個待崗調研員，連工資都沒人給他發。
這時候的李鴻章只能強撐硬挺，強調自己擁有六千五百名士兵。但在這個歡迎儀式上，上海的各級領導們告訴這個待崗調研員：你那都是些叫花子兵，根本就不能打仗。叫你們來，不過是壯個膽而已，恐怕臨陣之時，根本就指望不上。
對此，李鴻章緩聲回答道：軍貴能戰，非徒飾觀美，迨吾一試，笑未晚也。
眾人搖頭：唉，你可真是煮熟的鴨子，就剩下個嘴硬了。