一八九六年六月十一日，李鴻章離俄赴德。於十三日乘火車抵達德國柏林，住在愷撒大廈。
在德國，迎接李鴻章的是空前盛大的歡迎儀式。德皇派御車來接李鴻章。
六月十四日下午，李鴻章拜見德皇威廉二世，代表中國皇帝向德皇酬謝其干涉還遼之事。德皇表示，希望兩國友誼長存，希望大清江山永固。十五日，李鴻章拜訪了德國外長馬歇爾，談及英國放棄中國，短見自私，中國不能不與俄國友好。
此後數日，應德皇的邀請，李鴻章參觀了德國軍隊。德皇特意為李鴻章準備了一把虎皮椅。看到德國軍隊的精良裝備與高昂士氣，李鴻章不禁失聲說，我如果有十營這樣的軍隊，我就不怕小日本了。
此外，李鴻章還會見了已退休的前首相俾斯麥，進行了簡短會談。李鴻章在訪問德國的二十多天中，總想請教德國富強的秘訣，對於有關增訂洋貨進口稅的使命並未完成。
李鴻章被西方人稱為「東方的俾斯麥」，此次在李鴻章下榻的行館裡，牆上就掛著李鴻章和俾斯麥的照片。
俾斯麥，一八一五年出生於普魯士，是德國歷史上著名的政治家、軍事家和外交家，一八六二年至一八九○年期間一直擔任首相，在普魯士國王威廉一世的支持下，俾斯麥大力推行他的「鐵血政策」，經過發動與丹麥、奧地利和法國等的一系列戰爭，一八七○年，最終實現了德意志的統一，使得德國一躍成為與英國、沙俄並列的世界強國。
在這一過程中，「鐵血宰相」俾斯麥的名號享譽歐洲大陸。但是到了一八九○年，因與新德皇威廉二世政見不一致，產生嚴重意見衝突，俾斯麥被迫辭去了職務，賦閒在漢堡宅第，養花種草，頤養天年。
李鴻章的經歷雖比不上俾斯麥那樣傳奇，但也有相似之處，他早年鎮壓了太平天國和捻軍起義，後當上直隸總督兼北洋大臣、文華殿大學士，出將入相，在職務上應該說與俾斯麥相當了。只不過前兩年在中日甲午海戰中折戟沉沙，丟盡了顏面。
李鴻章之所以被稱為「東方伸斯麥」，這有一段來歷。那是當年他在籌建北洋水師的時候，有一次德國海軍大臣柯納德到天津拜見李鴻章，告訴他：「中堂大人，我這次乘坐的軍艦，是世界一流的軍艦，技術裝備最為先進，歡迎您有時間過去參觀。」李鴻章對武器船艦是最感興趣的，他滿口答應，約好日期前去觀看。
不巧的是，正好那一天颳風下雨不利於出海，李鴻章冒著風雨來到大沽口，但是德國軍艦離港口還有幾十海里，他們的船隻在風浪中很難前行，這時柯納德派了一隻小艇前來聯絡，並帶來口信：「今天風雨太大，在海中行船會有危險，您這麼大年紀，就不必冒此危險了，可以改日再來參觀。」
隨行人員也紛紛勸阻，但李鴻章參觀心切，加上不想讓洋人看不起，毅然帶著翻譯下了自己的船，登上小艇就去了。柯納德見到李鴻章的到來很詫異，他很感慨地說道：「中堂大人真是守約之人啊，這麼大的風雨都如期前來，這樣堅毅的性格，真像我們的首相俾斯麥。」從此之後，柯納德逢人便說李鴻章是東方俾斯麥，「東方俾斯麥」的名號就從中國和德國傳播開來。
在公務之餘，李鴻章想起了要拜見一下那位神交已久的「鐵血宰相」俾斯麥。
聽說「東方俾斯麥」李鴻章要來漢堡，當地百姓奔走相告，紛紛走到道路兩旁駐足相望，期盼能親眼目睹這位東方大國的傳奇宰相，漢堡官商還準備了豐盛的宴席準備款待李鴻章一行。俾斯麥自然也十分高興，他戴上威廉一世賜給他的冠冕，佩上十字勳章，穿上盛裝，以最高規格的禮儀準備迎接李鴻章的到來。
李鴻章和俾斯麥二人相談甚歡。在雙方交談之中，李鴻章說起自己被稱為「東方的俾斯麥」。俾斯麥隨即笑著說：可是我沒有希望成為「西方的李鴻章」啊！
這裡還有一個關於他們的小故事——俾斯麥對中國的箭術十分好奇，所以想看看中國的箭術是什麼樣子，李鴻章很痛快地答應了。李鴻章派人表演了步箭和馬箭等等，看得俾斯麥十分高興。表演結束之後，衛隊長報告李鴻章說，總共發了一百支箭，九十九支箭都在靶上，少了一支箭。過了一會，衛隊長又報告說，射手二十人，現在只有十九人，少了一個。於是俾斯麥派人去找，結果發現這個射手頭上中箭躺在地上。原來，這個射手叫張樂堂，因不小心被別的射手誤傷了，箭正好穿過了他兩邊的太陽穴。李鴻章立即命人給張看病。外科醫生把這名射手太陽穴兩邊的箭鋸掉，並說已經治好。李鴻章生氣地問：那腦子裡的箭怎麼辦？醫生說：那是內科的事情了。大人可以讓他去找內科醫生。李鴻章說：他現在都不能站起來，怎麼找醫生？外科醫生說：只要大人吩咐的事情，誰敢不從？於是，李鴻章命令道：張樂堂站起來！於是張樂堂果然站了起來，去找內科醫生了。俾斯麥看到這一切，覺得十分驚奇，於是問李鴻章：是什麼力量讓這位士兵站起來的？李鴻章不無得意地說：這就是中國軍人的服從精神，他們以服從長官的命令為天職。俾斯麥聽了之後，佩服得一時竟說不出話來。
李鴻章此行不是前來閒敘的，他是要來向俾斯麥討教治國治軍方略的。他很快切入正題，說道：「我此次專程來拜訪閣下，實是有一問題請教。」俾斯麥問：「什麼事情？」李鴻章接著問道：「要想實現中國的復興大業，請問有什麼可行之道？」俾斯麥沉吟了一下答道：「實在抱歉，我們兩國相去甚遠，我平時也沒有怎麼關注貴國的情況，現在又年老昏聵，確實不敢妄下斷語。不過，鄙人以為要想使國家富強，必須要做到上下一心。」俾斯麥想起了自己與先皇威廉一世的君臣默契關係，不禁感慨萬分。
這話也觸動了李鴻章的心弦。這些年，後黨與帝黨之間從沒停止過鬥爭，大臣之間也是互相傾軋，有幾個人出來真正為國家做些事情呢？何談上下同心呢！
想到這裡，李鴻章有了下一個問題：「那麼再請教閣下，怎麼才能在與政府的角逐中取勝呢？」當然，李鴻章所指的政府並不是慈禧太后和光緒帝，而指的是軍機處裡面那些保守派，因為他們處處與自己為敵，阻止興辦洋務。俾斯麥當然不明白李鴻章心裡想的，他只泛泛地答道：「為人臣子，總不能與政府相爭。萬一與政府有意見與分歧之處，要麼聽從政府的安排，要麼就直言以諫。」
俾斯麥的這兩個答覆其實都讓李鴻章感到失望，怎麼號稱「鐵血政策」的俾斯麥如此軟弱呢？是不是因為老了沒有了銳氣？李鴻章不死心，接著問道：「如果為國家著想，該怎樣進行治理為好呢？」這一下可問到俾斯麥的專長上了，他立即答道：「鄙人根據多年的經驗認為，軍隊是國家的根本，捨此並無更好的依託。」李鴻章很贊同這一觀點，這麼多年來，他一直在努力建設自己的陸軍海軍，但是朝廷和那些腐儒，不是挪用拖欠軍餉，就是消極對待軍隊建設，更有甚者，八旗子弟、滿蒙旗兵靠著祖宗的蔭功，遊手好閒，不學無術，哪談得上去戰場衝鋒陷陣呢？
李鴻章接著說道：「閣下言之有理，願聞其詳。」俾斯麥一看李鴻章有興趣，於是答道：「練兵不在於數量之多，而貴乎精，全國上下五萬人足矣，而且要年輕力壯的，軍事技藝要過硬，這樣的部隊就會無往而不勝。另外，全國只需一支主力部隊，不必將兵力分散到各地，當然，一些關隘要塞需要派兵把守，這樣一來，一旦需要部隊，就可隨時調動，快速出兵。」俾斯麥的觀點主要是基於那些小國家而言的，他當然不知道中國地域廣闊，區區五萬兵力怎麼能解決問題呢？李鴻章對此自然不能苟同，但是人家正在興頭上，也不便反駁。於是他客氣地說道：「感謝閣下的教誨，讓我受益匪淺。我國其實並不缺乏優秀的青年軍人，缺乏的是教練人員和先進的軍事知識。三十年來，我苦心孤詣，為建設軍隊奔走遊說，只可惜敝國能理解我的人很少，所以至今沒有什麼成就，實在是遺憾。這次我到貴國訪問學習，看到了貴國的精兵強將，實在是堪稱楷模。我想回國後按照貴國的軍制訓練新兵，當然，所需軍事教官，還望貴國予以幫助支持。」俾斯麥聽得李鴻章的吹捧，心中高興：「自然，自然，以後貴國有需要鄙人的地方，儘管吩咐就是，我當效全力。」
會晤很快就結束了，二人合影留念，俾斯麥還讓李鴻章留下墨寶作為紀念。
經一天的旅途，七月五日李鴻章一行到達荷蘭首都海牙。當晚他出席了荷蘭政府為他舉行的歡迎宴會和晚會，使他感到異常高興和感激。由於時間緊迫，李鴻章只在這個低地國家訪問了三天，就於七月八日離開荷蘭到達比利時首都布魯塞爾。
來到比利時的第二天，李鴻章就覲見了比利時國王利奧波爾德二世，並同比利時國王商談了盧漢鐵路的修築問題。在比利時期間，李鴻章觀看了比利時軍隊的軍事演習，參觀了軍工廠，看到了「克革烈」槍炮公司的最新產品，這些給他留下了深刻印象，他對比利時的裝備感到美不勝收，倍加讚賞。這位廠長看到李鴻章十分喜歡一種新式的大炮，就表示願意贈