1999年1月15日，張亞勤隻身一人從美國新澤西轉道日本東京回國。這是他第3次登上回國的飛機，心裡充滿了興奮和使命感。
與此同時，沈向洋滿懷著同樣的期待登上了另一架從美國飛往東京的航班。他也是一個曾被譽為「神童」的天才，13歲就考入了南京工學院（現更名為東南大學），畢業後進入香港大學研究生院主攻電氣與電子工程學，此後在美國卡內基·梅隆大學攻讀博士學位，師從拉傑·瑞迪（Raj Reddy）教授。瑞迪教授是計算機圖像與機器人技術領域的另一位先驅，指導沈向洋在這一領域打下了紮實的功底。1995年畢業後，沈向洋婉拒了卡內基·梅隆大學的工作，加盟矽谷一個名叫「真實空間」（Real Space）的創業公司。第二年沈向洋簽約微軟雷德蒙總部時，他已經在視覺圖形學領域嶄露頭角。
沈向洋其實和張亞勤一樣，早就籌劃回國，但還有些猶豫。而張亞勤回國的決定加快了沈向洋回國的腳步，並跟張亞勤約好在東京一起轉機。後來，沈向洋成為繼李開復和張亞勤之後，從微軟中國研究院誕生的第三位微軟全球副總裁。
在東京，張亞勤和沈向洋並沒有停留多久，他們在機場找了家餐館，痛飲幾杯，相互勉勵，然後就直接轉機飛往北京。從東京到北京三個小時的航程里，兩人談起即將開始的事業都很興奮，又因為喝了酒，無意識間聲音提高了很多，幾乎整個機艙都能聽見。「我們根本沒意識到自己的聲音很大，直到旁邊有個人生氣地喊『shut up』，我們才放低了聲音，但講著講著聲音又變大了，旁邊那個人實在忍不住了，又吼了一聲『shut up』。但我們倆還是壓抑不住興奮，就想大聲說話。」張亞勤提起當時的情景依然忍不住發笑。
張亞勤的微軟員工證。
到北京的第二天，張亞勤就開始了研究院的工作。在他回國之前，研究院的各項工作已經緊鑼密鼓地展開了。微軟中國研究院是在兩個月前，也就是1998年11月5日宣布成立的，宣布成立時張亞勤還在美國桑納福研究院進行交接工作。張亞勤是個有始有終的人，他說：「特別是要對客戶有個交代，有一些項目是因為客戶很看重我才簽下來的，我不希望因為自己的離開項目就被中斷。」
因此，在研究院成立兩個月後，張亞勤才到任。雖然沒能參加成立儀式，但這位「首席科學家」和「副院長」在中國早已聲名赫赫。微軟研究院甚至為張亞勤和沈向洋的到來特意召開了記者招待會。記者會上，張亞勤代表研究院向媒體記者介紹了研究院的情況、團隊以及這個團隊的雄心壯志。
張亞勤加盟微軟中國研究院的消息一經公開，就極大地提升了微軟中國研究院在國內外的聲譽。他本人就像磁鐵一樣吸引了很多來自海外的華人學者。張亞勤研究的多媒體領域，也很快成為了微軟中國研究院的一項核心研究。在微軟公司將多媒體應用於手機和其他移動設備的技術研究方面，張亞勤的研究起了很大的推動作用，這一技術很快就成為微軟公司重要的發展領域。
接下來的一段時間裡，李張二人通過媒體宣傳研究院的發展規劃和理念，加速組建團隊。由於研發與高校天然的密切聯繫，研究院還特別成立了顧問委員會，顧問委員會裡面有當時浙江大學校長潘雲鶴、北京大學常務副校長遲惠生、清華大學張撥院士、麻省理工學院教授Victor Zue等。顧問委員會主要負責參與研究院的發展戰略規劃，讓研究院拉近與國內科研同行們的距離，增進合作。
隨著各路人才的加入和研發工作的推進，李開復和張亞勤開始給研究院定方向，把研究院的人員分成不同的研究小組。李開復負責兩個組、張亞勤負責兩個組、沈向洋負責一個組，一共五個組，此外，陳宏剛負責高校關係，凌小寧負責技術轉化。
方向明確之後，研究院最初的研究架構很快搭建起來，一切井然有序。
職能一 研究院是公司技術戰略的智囊團
◆洞悉態勢（Uand what''s going on）
研究院的學者、研究員們應當在技術研究的基礎上，對技術的發展趨勢、產品和市場的演變規律有一個清晰的認識和把握。作研究不能只注重演算法或理論，必須時刻關注產業的發展規律，在更高的層次上對市場和產品的演變進行總結和歸納。
◆預測未來（Predict what will happen）
對未來的預測是公司制定技術發展規劃、確定研究方向的重要依據。儘管IT世界日新月異，發展迅猛，但還是要設法推測三五年以後的世界到底是什麼樣子，以便能提早儲備技術資源，為未來的市場競爭積蓄力量。
◆指明方向（Define our research dires）
研究院應根據自己對產業規律的總結和對市場前景的預測，為公司的技術發展設計藍圖，確定具體的研究方向。研究院所確定的研究方嚮應當是那些最能提高公司技術實力，最有利於公司技術積累的方向。
◆出謀劃策（Advise the pany）
作為公司技術領域裡最重要的智囊團，研究院通常以諮詢的方式為公司決策層出謀劃策。例如，向公司提供有關技術發展趨勢的報告，幫助公司總結用戶需求，分析市場上的競爭態勢，為公司的戰略和政策制定提出指導性意見，從而直接影響公司決策層的思想，影響公司的技術戰略。研究院只有真正變成了公司技術思想上的領導者，才能充分發揮研究院的知識優勢，為公司技術戰略的制定與公司的長遠發展作出貢獻。
◆聯絡公眾（unicate to the public）
和其他研究機構一樣，研究院要時刻維護與公眾的關係，注意通過各種渠道與政府、媒體、學術界、教育機構建立密切的聯繫，並將公司在技術戰略上的想法及時地公之於眾。良好的公共關係不但可以幫助研究院順利地開展工作，也可以在戰略層面上幫助公司贏得最廣泛的支持。
職能二 研究院是研究成果的誕生地
◆基礎研究的性質
基礎研究實質上是一種長期投資，其目的絕不是為了短期的市場收益。公司應當從戰略角度看待基礎研究工作，應當為了未來的市場、未來的客戶而開展基礎研究。在這一點上，微軟亞洲研究院管理層已經達成了高度的共識，認定所從事的基礎研究必須要有最新的構思和最新的理念，是世界一流的；必須要符合技術發展潮流和市場規律，是主流的；必須對用戶、對企業、對IT產業的發展起到真正的推動作用，是有用的；必須立足於公司的業務情況，結合公司戰略發展來設計研究方向和項目，並在不遠的將來為公司創造價值，是相關的。
◆科學的方法
基礎研究工作必須有科學的工作方法。微軟研究院開展基礎研究時使用的一些行之有效的研究方法可以總結為：
·研究院的基礎研究是想著做事情，不是坐著想事情。
·研究院的基礎研究是藉助科學的手段，依靠大量的數據進行的可重複的深入研究，不是膚淺的、無用的、無法複製的簡單結果。
·研究院的基礎研究是研究、理解、借用前人的成果，不是閉門造車式的研究，也不是只顧抄襲別人的研究。
·研究院的基礎研究需要親自設計工程原型，用實踐證明對用戶有用，不是只關心理論的紙上談兵。
·研究院的基礎研究承認失敗，可以從頭開始，不是那種不承認失敗、永無止境的研究。
◆基礎研究的環境和文化方面：
·研究要有長遠的眼光。
·研究要有冒險的精神。
·研究要有開放的環境。
·研究要有充足的經費。
·研究要有一流的人才。
對研究院本身來講，第一步是吸引和留住人才，其次是為人才創造出施展才能的環境，更進一步就是要培養自己的科研明星，打造自己的明星隊伍。只有培養出一大批在科研領域星光璀璨的明星科學家、明星研究員，研究院才有可能真正躋身世界先進科研機構的行列，才能為企業創造出最持久的價值。
職能三 研究院是核心技術的孵化器
◆發展公司的核心技術
研究院在核心技術發展方面的職能可以從4個方面來理解：
1.研究院應當幫助公司在相關領域建立一個專利庫，擁有一大批代表國際先進水平的專利成果。
2.通過高水平的研究工作影響國際技術標準。研究院不僅僅要理解和跟蹤國際標準，還要參與標準的制定過程，並對其施加影響。如果國際技術標準採用了你的專利，沿著你所定義的方向向前發展，你的產品和技術就能真正保持在業界的領先地位。因此，技術標準是研究院必須給予充分重視的一件事。
3.研