外交是戰爭的延續，打仗並不困難，兩次雅克薩之戰清軍都取得了勝利。這場外交戰能夠全勝嗎？
在清軍解除了對雅克薩的包圍後，俄方反而一再拖延，故意讓清廷焦躁，以此增加在談判中的籌碼。羅剎也會耍賴，所以怪不得金庸在《鹿鼎記》里讓韋小寶這樣的無賴與俄國人談判。
俄方一再拖延，一年半後，戈洛文才派遣斯捷潘科羅文到北京，告訴康熙談判地點定在色楞格。康熙表示同意，康熙二十七年（1688年）三月，派遣侍衛內大臣索額圖、都統佟國綱、尚書阿喇尼以及將軍馬齊、馬喇等人前去談判。除了談判的人之外，還帶了兩百前鋒士兵、四百護軍、兩百八十個火器營的士兵。
臨行前，康熙對索額圖說：「羅剎侵犯我邊境，佔據我尼布楚、雅克薩等地，收留我叛徒根特木耳，在我黑龍江邊築城，我們兩次發兵，才逼得他們談判。尼布楚、雅克薩，黑龍江上下，都是我們的地盤，不可讓給羅剎哪怕一寸土地。根特木耳這些人，一定要羅剎歸還，只要他們歸還了，我們也歸還他們的俘虜。劃定疆界後，可以允許邊境的人民自由通商。」
索額圖等人五月出發，七月下旬，到達克魯倫河，不巧遇上了草原梟雄噶爾丹。噶爾丹打敗蒙古喀爾喀部落後，稱雄於草原。索額圖等人前行的道路受阻，康熙讓他們暫時先回到北京。清廷讓前鋒將領索羅希前往色楞格，告訴他們受阻的原因，並建議俄方再派遣代表到北京，重新商定談判的地點和時間。
康熙二十八年（1689年）四月，戈洛文再次派使者到北京，提議在尼布楚舉行談判。就在這時，噶爾丹征服了喀爾喀全境，勢力逐漸龐大，暗地裡與沙俄勾結，準備南下。由於形勢的轉變，康熙不得不在與沙俄的談判中做出讓步，以便及早騰出手來對付噶爾丹。
沙皇方面，對戈洛文的要求是：「以黑龍江為界，如果不能以黑龍江為界，最後的讓步也應該把國界定在牛滿河或者精奇里江。如果對方連這個都不接受的話，我們還可以再退一步，以雅克薩為界，但黑龍江與牛滿河、結雅河沿岸的漁獵場全部歸我們。如果清朝人仍然堅持自己的主張話，沒辦法了，只能打了，所以軍事方面也要準備好。」
沙皇也是個貪婪的角色，他想通過外交的方式得到戰爭得不到的東西，侵吞清朝黑龍江的大片領土。
然而，沙俄國內的情況也發生了一些變化。他們真正的擴張重心在歐洲，但是這一年沙俄的遠征軍在克里米亞遭遇失敗，由此引發了國內的動蕩，貴族和商人們都不希望俄國再和清朝發生戰爭。此時，沙皇也希望儘快和清朝議和，達成協議。在談判之前，沙皇命令軍隊撤出雅克薩，並要求拆除防禦工事。
康熙二十八年（1689年）七月三十一日，索額圖等人到達石格勒河，距離尼布楚只有幾里路，不久，薩布素帶領的一千五百官兵也抵達尼布楚。讓人氣憤的是，戈洛文卻遲遲沒有來到。索額圖多次派人到尼布楚催問，俄方卻敷衍塞責。後來，戈洛文來信說明遲到的原因，並要求清軍水師退到下游。
談判的時間定在八月二十二日，地點設在尼布楚與河邊的空地上，談判的場所是郊外搭建的帳篷。談判的原則是平等，雙方都不得凌駕在另一方之上，兩國使臣可以各帶三百名侍衛，侍衛只能帶冷兵器，不能帶火器之類。會場外面，雙方可以布置五百名衛隊。
八月二十二日，第一次談判大會正式開始，中方代表除了索額圖、佟國綱、馬喇、薩布素、郎坦等人外，還有兩個西方傳教士張誠和徐日升，他們負責翻譯；俄方代表是戈洛文、弗拉索夫和科爾尼斯基。
戈洛文首先發言，他把中俄戰爭的責任全都推到清朝身上，誣陷清朝沒有宣戰就派兵侵犯沙皇的國界，所以沙皇才派遣大量精兵，攜帶無數的彈藥來討伐敵人，直到收到清朝皇帝的和談信，熱衷於和平的沙皇陛下才放下兵器，派我們這些人過來談判，所以清朝應該對受害者俄國進行賠償。
當翻譯把戈洛文的話翻譯過來後，索額圖火冒三丈，痛斥戈洛文一派胡言，指出沙俄是侵略者，在黑龍江地區犯下了滔天罪行，清朝皇帝是忍無可忍才出兵討伐，即便如此，也保持了最大限度的剋制，沒有殺害任何投降的羅剎。索額圖一番義正詞嚴的控訴讓戈洛文啞口無言，戈洛文不想就誰是誰非這個問題爭執。
他一再抗辯說尼布楚、雅克薩是沙俄先民開拓的地方，甚至說黑龍江流域自古就歸沙皇陛下。沙俄企圖通過咄咄逼人的外交攻勢，取得黑龍江以北的大片領土。索額圖明確表示不可能，他說道：「敖嫩河、尼布楚向來是我女真部落居住的地方。我們皇帝幾次出兵都沒有攻打尼布楚，並不是不想奪回這塊地方，只是不忍心讓你的人民死於屠刀之下。皇帝如此仁義，就是希望你們能幡然悔悟，及時回頭。如果你們想強佔這塊地方，我們皇帝是絕對不會允許的。」
索額圖要求沙俄交出尼布楚和雅克薩，退到色楞河以西。不過，第一次談判沒有得到結果。
第二天，進行了第二次談判。戈洛文仍然堅持以黑龍江為界，索額圖明確表示拒絕。戈洛文看這個方案不可能被中方接受，便拋出第二個方案，以牛滿河和精奇里江為界，想把精奇里江東面和西面的大片領土包括雅克薩據為己有。索額圖拒不接受，但此時索額圖犯了一個錯誤，他亮出了底牌。他以為沙俄做出了讓步，康熙又喜歡儘快達成協議，便把康熙最後的底線，也就是以尼布楚和音果達河為界攤了出來。這樣一來，等於是把貝加爾湖以東至尼布楚的大片清朝領土讓給沙俄。
儘管中方代表已經做出了重大讓步，而且這個方案也滿足了沙皇的訓令，但是戈洛文仍然耍盡手段，想多佔有一些領土。看著戈洛文卑劣的表演，中方代表非常憤慨，索額圖直接說道：「除了尼布楚外，我們不會接受任何其他邊界。」
這樣一來，會議中斷，談判陷入僵局。雙方一度劍拔弩張，沙俄增派了三百名火炮兵，索額圖也採取措施，準備將尼布楚包圍起來。
談判仍然在繼續，中方翻譯張誠和徐日升告訴戈洛文：「如果不將雅克薩及其附近的地區讓給清朝，和談不會有任何結果，到最後可能還是要通過武力解決。」
沙俄雖然固執己見，但清政府已經做出了讓步，而且軍隊也已經準備好，再加上尼布楚一帶的少數民族早已忍受不了沙皇的壓榨，準備和清朝軍隊聯合，共同反抗沙俄。沙俄在尼布楚的軍力本來就不多，西伯利亞那邊也沒有兵力可以支援，如果逼清軍走極端的話，很可能引起整個貝加爾湖以東的殖民區產生動蕩，戈洛文可不想冒這個險。
九月七日，中俄雙方經過反覆磋商，終於簽訂了《尼布楚條約》，根據條約的規定，中俄兩國東段邊界以外興安嶺至海、格爾必齊河和額爾古納河為界，黑龍江和烏蘇里江流域的廣大土地屬於清朝。黑龍江和烏蘇里江都是清朝的內河，清朝同意讓出貝加爾湖以東尼布楚一帶原屬於清朝的土地，並允許沙俄在邊境通商。沙皇同意將黑龍江內的軍隊撤回國。
在邊界處建立了一個永久的界碑，可惜後來清政府不爭氣，還是讓沙俄把雅克薩等大片領土奪了去。無論如何，這個條約奠定了中俄邊境百年和平。