甲午之戰和《馬關條約》之後，清政府對日本的政策主流認識慢慢變成了「聯俄抗日」。因為沙俄在大清帝國最艱難的時候跳出來幫忙要回了遼東半島。另外，清政府也想利用沙俄牽制日本。其中以兩江總督劉坤一說得最為明確：「威脅大清國的國家以日本為最，日本企圖佔領東北的野心積蓄已久，而俄國因與大清帝國東北接壤必最不願意。所以『我若乘此時與之深相結納，互為聲援，並稍予便宜，俄必樂從我』。」
日本通過《馬關條約》割取了遼東半島，觸犯了沙皇俄國準備要搶佔的地方，沙俄便聯合法國、德國出面干涉。當時，日本雖然稱霸東方，但它不敢與西方三列強相抗，只好同意讓出遼東半島，不過中國必須為此付出一筆巨額贖金。一八九五年十月十四日，清政府以李鴻章為「歸還遼旅議約全權大臣」，與日本駐北京全權大臣林權助談判。十一月八日，最後議定簽字，由中國付銀三千萬兩「贖回」了遼東半島。這樣，在清政府眼中，沙皇俄國簡直成了「救星」，被當做「恩人」來看待。
十九世紀九十年代初，俄國開始修築橫貫歐亞兩大洲、西起莫斯科、東達海參崴的西伯利亞大鐵路，企圖藉此在遠東取得比其他歐洲國家更大的優勢，控制太平洋水域的一切國際商業活動。一八九四年，西伯利亞鐵路修到外貝加爾地區，關於鐵路走向問題，沙皇批准了財政大臣維特提出的橫穿中國東北的方案，因為這不僅可以縮短路程，節省經費，加快進度；而且便於對中國和遠東地區進行軍事、政治、經濟擴張。方案既定，便開始設法實施。一八九五年六七月間，俄國未經清政府同意便擅自派員赴中國東北勘測路線。十一月，維特向中國駐俄大使許景澄提出「俄人集立一公司，承造此路，與中國訂立合同」的主張，企圖以所謂中俄合辦、「無礙主國事權」為幌子，誘騙清政府上鉤。不久俄國外交部電令其駐華公使喀西尼與總理衙門商辦「公司之議」。維特還奏准撥出「一筆適當的款子」，供駐華公使用以賄賂「清帝親信近臣」。但後來俄國考慮到北京眾目睽睽，不利於秘密談判，又恰值沙皇尼古拉二世將要舉行加冕典禮，於是便選定彼得堡作為談判地點。沙皇尼古拉二世加冕禮定於一八九六年五月舉行，各國均派特使致賀，慈禧太后和奕訢都認為，只有派李鴻章去最為妥當。一是因為洋人們說，對於十九世紀的中國，他們只知有李鴻章而不知有皇帝；二是與沙俄的密談，也只有李鴻章才能勝任。
一八九六年二月，清政府決定派李鴻章出使俄國。另外，考慮到李鴻章賦閒在家，慈禧決定藉機讓他出遊歐美，聯絡和列強的感情。
李鴻章奉命使俄，本來頗為「得意」，但表面上卻又故作姿態，以年老體弱、路程遙遠、「儻隕越於禮儀，殊有傷於國體」為藉口，並以在馬關被刺為由一再推辭，而清政府則堅決不準。當李鴻章認為確實到了「眾望所歸」的時候，才表示自己「非敢愛身，唯虞辱命」，只要「一息尚存，萬程當赴」。
二月二十八日，慈禧召見李鴻章，兩天後李鴻章請訓陛辭，三月三日離京南下，三月十四日抵滬。當時，英、法、德諸國紛紛邀請李鴻章首先前往訪問，以便漁利。李鴻章也曾有過經由法、德轉赴俄國的打算。但是，俄國擔心李鴻章首先出訪法、德，有損於中俄交涉，便由喀西尼出面，與李鴻章商定路程：乘法船從上海出發，穿越紅海和蘇伊士運河，在埃及塞得港換乘俄船，由地中海進入黑海，到達俄國港口城市敖德薩，然後乘車前往莫斯科。
一八九六年三月二十八日，已是七十三歲高齡的李鴻章，帶領隨員李經方、李經述、于式枚、羅豐祿、柯樂德（俄）、德璀琳（德）、穆意索（法）、赫政（英）、杜維德（美）等四十五人，乘法國郵船「愛納斯脫西蒙」號，從上海放洋，開始了周遊列國之行。李經方負責協理事務，李經述負責照料李鴻章的起居。此外還有兵部主事于式枚及各國洋顧問等，李鴻章還帶了一名英國醫生。他們從上海出發後，經過東海、南海、馬六甲海峽，橫渡印度洋，穿過紅海和蘇伊士運河，到達埃及的塞得港。沙皇派遣烏赫托姆斯基公爵專程前往塞得港迎候，換乘俄國輪船，由地中海前往黑海。
李鴻章在上海臨行前，曾對來訪的黃遵憲說：「聯絡西洋，牽制東洋，是此行要策。」這既反映了李鴻章的心聲，又道出了清政府的意圖。不求自立，而欲「以夷制夷」，其結果必將為「夷」所制。
李鴻章先到達的是俄國。他們於一八九六年四月二十七日到達俄國港口城市敖德薩。李鴻章電告總理衙門說：「頃抵敖德薩，俄水陸提督暨地方文武接待甚恭。」
李鴻章此行的一個重要任務，即與俄國結盟。
沙皇讓李鴻章先赴彼得堡，而不逕往莫斯科，是為了在舉行加冕典禮之前著手進行談判，「因為在加冕禮期間舉行談判就很困難了。到那時，每天都會有各式各樣的慶典。」四月三十日，李鴻章乘坐專列快車抵達彼得堡，住進鉅賈巴勞輔的豪華私邸，從飲食到室內陳設，「無一非中國物」，巴勞輔「起居言語，又無一不似中國人」。李鴻章「顧而樂之，幾忘身在異鄉。」沙皇指派維特同李鴻章談判。當時有人告誡維特說：「同中國官員談判首先就是不要著急，因為一著急他們就會以為是風度不好，什麼事都要幹得從容不迫，一切都要遵從各種中國禮儀。」維特終於把李鴻章推進了預設的陷阱。
在彼得堡，李鴻章開始與俄國人商談《中俄密約》。
五月三日，維特向李鴻章提出「借地修路」問題，他把「借地修路」同俄國「支持中國的完整性」聯繫起來，維特企圖以俄國「支持中國的完整性」的承諾為釣餌，來誘騙清政府對「借地修路」這種侵害中國主權的要求讓步。他說：「本欲借路速成，藉紓倭患，今中國雖認自辦，但素習顢頇，恐十年無成。」俄國提出可代薦公司承辦鐵路事宜。對於維特的要求和解釋，李鴻章提出了「種種異議」，指出：「代薦公司實俄代辦，於華權利有礙，各國必多傚尤。」
維特在與李鴻章的初步談判中雖然碰了釘子，但卻從李鴻章的談話中瞭解到，如果他看到沙皇想修這條鐵路的話，是會同意的。因此，維特建議沙皇接見李鴻章。
五月四日，李鴻章在皇帝行宮拜會沙皇，「面呈國書，寶星，並讀頌詞」。五月七日，沙皇再次秘密接見李鴻章，「令帶經方傳話，不使他人聞知。」沙皇把李鴻章引至便殿，賜坐暢談，說：我國地廣人稀，斷不侵佔人尺寸地。中俄交情，近加親密。東省接路，實為將來調兵捷速，中國有事亦便幫助，非僅利俄。華自辦恐力不足，或令在滬俄華銀行承辦，妥立章程，由華節制，定無流弊，各國多有此事例，勸請酌辦。將來倭、英難保不再生事，俄可出力援助。
李鴻章在會談後電告總理衙門，認為沙皇的主張比維特「前議和厚」。所謂「和厚」云云，無非是指沙皇承諾「不侵佔人尺寸地」、東省接路「由華節制」、援助中國對抗英、日而言。李鴻章相信了沙皇的承諾。在他的心目中，作為國主，一言九鼎，怎能會騙人呢！從五月八日開始，俄國外交大臣羅拔諾夫和維特一起，繼續與李鴻章談判。李鴻章將談判情況隨時電告總理衙門請代奏，總理衙門內部多由翁同龢、張蔭桓經辦，會商奕訢、奕劻等，請旨電示李鴻章。羅拔諾夫和維特秉承沙皇意旨，企圖以簽訂「華有事俄助」的密約來換取「東省接路權」。而李鴻章和清政府則主張「自辦接路」和簽訂互助條約，以期確保路權和爭取外援。羅拔諾夫和維特步步進逼，李鴻章節節退讓。他們之間的談判，是從彼得堡開始在莫斯科結束的。
李鴻章於五月十八日到達莫斯科，隨後參加沙皇尼古拉二世加冕典禮，應邀「入宮慶賀」，「居各國專使首班，頗蒙溫語」，並被授予寶星「頭等第二，大小兩枚，皆鑽石密嵌」。沙皇對於李鴻章的接待，既優禮有加，極盡籠絡之能事，又不事張揚，以免引起外國的猜忌。維特說：在《政府公報》上，關於李鴻章的消息最少，「根本沒有提到他在彼得堡受接待的事，也沒有提到他在莫斯科受接待以及他在加冕典禮後受到接見的情況。」
五月下旬，李鴻章認為事已至此，無法再爭，致電總理衙門，說「時促事煩，求及早請旨，電覆遵辦。」翁同龢、張蔭桓同奕訢、奕劻、李鴻藻、榮祿等「會商聯俄事」，「將所有密電錄稿公閱，遂議照辦。即定議，乃擬旨一通。」二十八日請旨允准，二十九日翁同龢親至張蔭桓處拍發電旨，既批准在條約上「畫押」，又要對「約內字句」做些改動。六月三日，李鴻章與羅拔諾夫、維特代表兩國政府在《禦敵互相援助條約》俗稱《中俄密約》上簽字。維特在回憶錄中敘述了當時發生的一個戲劇性情節：由羅拔諾夫起草的《中俄密約》第一款，本來規定中俄軍事同盟要對付「日本國或與日本同盟之國」。維特認為這會使俄國承擔不必要的風險，招致許多歐洲國家的反對。他向沙皇建議刪去「或與日本同盟之國」這幾個字，沙皇表示贊成，並令羅拔諾夫照辦。及至簽字那一天，當雙方代