2003年10月，鮑爾默訪問中國。依照慣例，張亞勤全程陪同。溫家寶總理在釣魚台國賓館接見鮑爾默。接見的時間還沒有到，張亞勤和鮑爾默在一間小會議室里一邊等一邊聊。
10月的北京秋高氣爽，張亞勤的心情同樣也很不錯：研究院的業務蒸蒸日上，除了在科研方面的建樹，微軟公司在中國與政府的關係和自身的市場形象也逐漸得以修復。自1999年年初張亞勤回國的4年間，研究院在各個方面都取得了令微軟公司上下喜出望外的成績。
「亞勤，如果調你回雷德蒙總部主持微軟公司的移動業務，你覺得怎麼樣？」向來直來直去的鮑爾默突然拋出了這個問題。此前，張亞勤絲毫沒有料到鮑爾默此行到中國還有這項議程。來不及多想，他只能說：「讓我仔細想想」。
鮑爾默發出的這個邀請當然不是興之所至的突然之舉。了解微軟公司的人都知道，這位精力過人的首席執行官在床頭放著一本花名冊，裡面囊括了微軟各個部門最有能力、最有價值的經理人的材料，甚至其家人的情況也都一一記錄在冊。一旦哪個部門出現空缺，鮑爾默都會從這個冊子里挑選精兵強將「火線空降」。這套系統被稱做「Hot People，Hot Jobs」（最搶手的人才，最搶手的工作）。
因此，鮑爾默遊說張亞勤之前，必定是考慮了多種因素。鮑爾默當然也知道，要張亞勤離開中國研究院是個很艱難的決定，因此，選擇在這麼一個氣氛輕鬆的時刻，向他拋出了一個艱難的抉擇。
鑒於微軟移動業務的重要性以及張亞勤在中國所領導的微軟研發的戰略位置，鮑爾默調張亞勤回美國的想法必定已經和蓋茨事先溝通過。而張亞勤自己其實也明白，總部一直希望他能夠回到雷德蒙，畢竟微軟公司絕大多數的核心產業和戰略決策都是在華盛頓湖邊的微軟總部做出的。對於張亞勤這樣的「好鋼」，蓋茨和鮑爾默都希望能將其用在「刀刃」上—為微軟公司統領更重要、更棘手的部門。
一年之前的2002年11月，微軟公司總部曾經就回總部徵求過張亞勤的意見。那次是蓋茨和鮑爾默希望他回雷德蒙出任微軟公司全球副總裁，管理多媒體方面的業務。考慮到中國研發業務還沒有徹底穩固下來，自己對研究院的一些規劃才剛剛啟動，張亞勤婉拒了：「當時，我太太帶著孩子舉家遷回北京還不到一年，這麼一家子來回折騰對孩子的成長其實並不好；另外，我已經在多媒體領域做了那麼多年，這個領域是我最擅長的；再次『重操舊業』也不符合我的性格。相比多媒體，我還是更傾向於開拓性質的研究院。」
但是，這次是鮑爾默在一年之後重提舊話，張亞勤明白自己必須認真考慮了。鮑爾默所說的微軟公司的「移動業務」指的是微軟公司總部目前正在整合移動和嵌入式部門，包括了用於行動電話、個人數字助理工具（PDA）、電視、汽車和非PC領域的操作系統和平台。
儘管研究院就像自己一手帶大的孩子，很難割捨，但是再三權衡之後，張亞勤還是接受了總部的職位，因為他深知這次讓他去負責的移動和嵌入式部門對於公司的全球戰略至關重要。多年的研究經驗告訴他，移動技術絕對是繼桌面技術之後下一個改變世界的技術，微軟公司絕對不能丟掉這個潛力巨大的市場，對於他自己而言，潛力就是挑戰。當然，微軟亞洲研究院的幾名幹將已經成長起來了，個個都能獨當一面，尤其是沈向洋和張宏江，他可以放心地把研究院交給他們。
在微軟亞洲研究院創建和發展的日子裡，共同的理想和創業的激情把張亞勤和他的團隊緊緊凝聚在了一起。2003年1月，大家在公司為張亞勤慶祝生日。
接受了來自鮑爾默的邀請，張亞勤就開始進行交接前的各項準備工作了，他熟悉每一位下屬的脾氣秉性，不願意令下屬們措手不及，當然，他也有足夠的信心平穩、有效地完成這個交接。張亞勤親自向各個業務小組解釋了自己工作的變動，讓大家做好心理準備，並且敞開大門，解答大家對於研究院在他離開之後發展的種種問題。
2004年1月7日，張亞勤的38歲生日這天，他得到了一份特殊的生日禮物—微軟公司向全球發布官方公關稿：
原微軟亞洲研究院院長張亞勤博士將升任微軟公司全球副總裁，調回微軟總部雷德蒙，負責微軟移動通信及嵌入式系統全球業務。同時，原微軟亞洲研究院副院長沈向洋博士晉陞為新一任院長，全面接管研究院基礎科研及高校關係等方面的管理事務；原微軟亞洲研究院副院長張宏江博士被提升為新近成立的微軟亞洲工程院院長，全面負責該機構的發展和管理事務。
接下來是各方面為張亞勤舉辦的歡送會。如果說當初開復的離開給大家帶來的是惆悵，那麼亞勤此刻的離開，中國研究院的同事們的反應則更多表現為自豪—微軟中國研究院成立不過五年，就走出了兩位微軟全球副總裁，這不僅僅是李開復和張亞勤兩位傑出領導者的勝利，也是微軟中國研究院這個集體的成功。
第一場送別會是全體員工晚會，在離研究院一個街區遠的天鴻賓館舉行，會場周圍有不少張亞勤的照片，照片大多是進行過圖像處理的，畫面上的張亞勤戲謔而搞笑，研究員們通過這種方式表達自己對院長的惜別之情。自然語言小組主任周明的禮物表達了大家對張亞勤的期待—一幅書法寫就的中國古詩捲軸，差不多有3米長，希望亞勤「常回來看看」。
幾位同事唱起了一首熟悉的老歌《送戰友》，唱著唱著，眼淚就忍不住在眼眶打轉，回憶起五年來的風風雨雨，台上台下兩相唏噓。這時，一位實習生跳上台拿起麥克風，動情地唱起了邁克爾·波頓的《How Am I Supposed to Live Without You》（《沒有你我怎麼活》），歡送會達到了了高潮。
現場的媒體這樣記述了當時的情景：
三個並肩作戰五年的戰友—張亞勤、沈向洋、張宏江一同晉陞本是好消息，但現場卻更多瀰漫著留戀和依依惜別的情懷。
張亞勤談到此次晉陞用了「感謝」二字，感謝微軟公司對他本人的信任以及對亞洲研究院五年工作成果的肯定，他對過去五年在微軟亞洲研究院的生活則是無限留戀。張亞勤對他的繼任者沈向洋和張宏江則是褒獎有加，稱對他們非常放心，相信微軟亞洲研究院會越做越好。沈向洋打趣地答說：「張亞勤博士離開後，重擔將會落在我們二人的肩上，擔子很重，千萬不能做敗家子！」
對於張宏江等留下來的同事們來說，他們將繼往開來，書寫研究院和工程院更加輝煌的未來。而張亞勤，環顧周圍這麼多熟悉的面孔，別離戰鬥了五年的陣地，心中百味雜陳，已經無法用言語表達自己的感情，唯有頻頻握手和擁抱。
歡送會後，張亞勤和張宏江一起回到辦公室，兩人都感慨萬千。張宏江想起來之前亞勤曾跟他說，自己可能有10%的機會被調到雷德蒙總部去管理一個新的產品小組，沒想到「這個10%變成了100%」。
幾天之後，在北京城北亞運村的皇冠假日酒店，又召開了一個更大型的送別會。讓張亞勤倍感榮幸的是，前國務委員、國家科委主任宋健親自到場參加張亞勤的歡送會。宋健曾擔任鄧小平、江澤民和胡錦濤的科學顧問。此外，宋健還曾經出任中國工程院院長，是中國科技界的主帥。
說起和宋健的淵源，還要追溯到張亞勤1978年剛上大學的時候。那時，宋健即有中國科技界「主帥」的美譽，在改革開放之後的中國科技大潮中擁有坐標式的位置，而中國科技大學又是中國科學院的直屬高校。後來到了2000年，張亞勤以「微軟中國研究院首席科學家」的身份被聘為北京中關村顧問委員會委員，而宋健正是該委員會的主席。愛惜人才的宋健對張亞勤極其賞識，他認為中國的創新未來屬於有才華的年輕人。因此，一老一少成了忘年交，多次聚在一起討論中國科學教育的現狀等話題。宋健認為張亞勤講到的「管理方程」是那種開放有序系統的典型特徵，他本人也非常贊同這個理論。不久前他在從微軟雷德蒙總部參觀歸來後，宋健給張亞勤寫了一封親筆信：
只有高的IQ沒大用處。更重要的是要有一個能接觸世界前沿的開放、良好的工作環境，一個有傑出領導的團隊，人的才能才會發揮出來。否則，囿於牆裡院內，大智只能變小慧。我必須說，在9月30號參觀微軟亞洲研究院和10月16號訪問微軟公司總部時所看到的完美模式給我留下了特別深刻的印象。那裡的絕大多數員工都努力工作，追求進步，保持工作和生活的良好平衡，並緊跟時代的步伐。所有這些都是值得中國許多科研機構好好學習的！
我的確希望中國的年輕一代能夠從這種文化氛圍中認真學習些東西，不只是發揮個人的聰明才智，也會有助於我們的國家和社會的進步。同時我們應該感謝比爾·蓋茨的雄韜偉略，我們也應該感謝你們兩個（指張亞勤和李開復）