研究人員招聘到了，研究方向也確定了。當時研究院定有兩個大的方向—智能人機界面和下一代多媒體技術，另外，張亞勤還將繼續在數據壓縮、視頻、高清晰度電視和互聯網等領域作研究。研究院的工作很快就步入了正軌。
在美國的時候，張亞勤全面負責桑納福研究院多媒體組的工作，所有決定幾乎都由他來做，他是絕對主角。現在，作為微軟中國研究院的首席科學家，他變成了一個配角，職責是協助李開複製定並不斷修正微軟中國研究院的研究方向和選題，健全研究院的組織機構，並在研究小組之間進行協調。
張亞勤時刻沒有忘記他在美國時的老闆對他說過的話，「你回去，有可能成功，也很有可能被邊緣化。」張亞勤當時隨口回答了一句：「我還年輕，才30來歲，可以去試試，不成我再回來。」不過張亞勤從沒有打算「做不成了就回去」，那不是他的風格。對於他來說，既然選擇了，就沒有退路。
創立之初，對於研究院的人來說，這個新生的機構必須拿出點兒什麼東西證明自己在世界科研版圖上的存在，才可能談下一步的事。那時候，張亞勤的家人都還沒有回國，他真正成了一個「公司人」：白天面試、定方向、討論課題，晚上和大家一起吃飯，然後接著關在辦公室里搞自己的課題，神經實在綳得緊了就去打保齡球。每天晚上都差不多11點鐘才離開辦公室。周末偶爾會稍微休息一下。也就是在那段住香格里拉酒店公寓的時間裡，張亞勤系統地復讀了很多武俠小說。就這樣，一周七天都沉浸在激情里：「完全就像搞一家新公司一樣。一心想著一定要做出成績，讓大家看到我們在中國會比在美國更成功。」
1999年5月，蓋茨派微軟首席技術官克雷格·蒙迪來北京考察微軟中國研究院的進展情況。這是克雷格·蒙迪第一次來中國。張亞勤跟這位CTO是老相識，兩人在競爭美國高清電視標準時就是對手。張亞勤評價這位曾經的對手「相當厲害」。正所謂「不打不相識」，現在成了同事，聊得更投機了。
克雷格·蒙迪此行是為考察而來，給這些新員工打打氣。當然他最想看到這個新團隊在這幾個月里做出了什麼新成果。在研究院里里外外轉了一圈後，克雷格·蒙迪大開眼界，回到總部，他這樣向比爾·蓋茨彙報：「中國研究院的那些人真是厲害，沒想到在中國的這個平台，居然吸引了這麼一批優秀的人才。」
總部的肯定讓研究員們信心大增。但張亞勤他們很清楚，真正立足的資本不是鼓勵，而是戰果。研究院上下全力以赴，幾個月之後就有了成效。
1999年11月5日，微軟中國研究院在北京慶祝成立一周年。在短短一年中，不僅研究機構初具規模，而且在學術研究方面取得了累累碩果。研究人員由最初的兩人發展到60人，在國際一流刊物上發表論文28篇，並出版了微軟中國研究院的第一本論文集。
2000年，張亞勤回國剛好一年的時候，IEEE視頻雜誌最佳論文獎獲得者揭曉，張亞勤再次折桂。這個專業大獎每年只有一位獲獎者，這項殊榮對於當時的研究院意義重大。頒獎典禮上，主持人介紹獲獎者張亞勤時說，「He is from a！（他來自中國！）」台下聽眾開始交頭接耳地議論起來。
而站在領獎台上的張亞勤也不像以往領獎時那樣一臉淡定，此時的他正努力壓抑著自己的喜悅。他雙手接過獎盃，然後高高舉起，向台下的嘉賓致意，此時，淚水在張亞勤眼裡打著轉。
張亞勤並不是第一次得到這樣的獎項，他也不是個容易激動的人，但當他聽到那句「from a」的時候，心中一下子就湧起一股暖流，鼻子發酸。他的心中意識到：「這句『來自中國』至少說明了兩個問題：一是我第一次真正代表著中國；再就是證明了我並沒有被邊緣化，我打破了其他人對回國做科研、對我的悲觀論調。」
張亞勤有資本自豪。這一年多來，研究院取得了豐碩成果，本土研究員和實習生成長迅速。僅他領導的多媒體小組就在全球最優秀的學術刊物和會議上發表了80多篇論文，在網路協議領域申請註冊了40項專利，做出了60項新發明，並已有8項成熟技術轉讓給微軟公司的相關產品部門。