2002年春天的一個早晨，張亞勤興奮地趕往位於北京市中心的教育部。
當時，微軟中國研究院已經成立3年，成功升級為微軟亞洲研究院，在所有投入力量的研究領域都已經取得了重大突破。整個研究院的規模已經增長了一倍，研究人員達到140名，每年發表200多篇專業論文。更為重要的是，研究院的技術成果正開始源源不斷地轉化為產品。
這時候，張亞勤又在構思另一個更宏大的計畫—建立中國IT人才的聯盟。張亞勤給這個計畫命名為「長城計畫」。因為長城是傳統的中國元素，是永恆的象徵，他希望通過「長城計畫」，為中國建立堅實、持久的科研體系貢獻力量。實際上，「長城計畫」是微軟亞洲研究院以史無前例的規模投資到中國的軟體開發與教育領域。
早在1998年微軟中國研究院成立之初，即已開始和中國的高校合作。微軟亞洲研究院是一個基礎研究機構，研究員們從事研究、發明新技術、寫論文、申請專利、作產品轉換，甚至還要帶學生。可以說，研究院就像是一所大學，與全國高校有著密切聯繫。最早的時候，研究院主要是去大學裡作訪問，了解學校的需求，看自己能為學校做些什麼；同時，也把研究院正在做的事情介紹給教授和學生。但這種形式顯然比較鬆散，如何體系化研究院與高校的聯繫，讓學生們真正享受到研究院在國際平台上的技術和研發優勢？這是張亞勤一直在思考的問題。
張亞勤把自己的想法和教育部溝通，此次去教育部，就是要和教育部商談開展合作培訓的細節問題。
上午8點，時任教育部部長的周濟教授已經在辦公室等候張亞勤了。周部長曾任華中理工大學校長，還擔任過武漢市市長，屬於「學者型官員」，作風務實。兩個小時的會談結束後，「長城計畫」也基本敲定：微軟在今後3年時間內投入2億元人民幣（約合2500萬美元），用於軟體開發課程、研發人員與管理人員的培訓，以及提供所需設備和教材；另一部分資金則用於新設立的微軟博士後獎勵基金，以及資助在研究院實習的本科生和研究生。該項目的覆蓋範圍涉及全國重點高校現有的35所軟體學院。
周濟部長對此次會談曾這樣評價：「組成如此全面的項目來幫助中國，微軟是第一家。我個人十分願意代表教育部參加這一項目。我希望通過三到六個月的培訓上個新台階。」在眾多在華設立研發機構的跨國公司中，微軟的「長城計畫」無疑是最「不辭勞苦」的一個：不僅出資金，還出人—世界頂尖的科學家親自上陣，手把手帶學生，這種言傳身教的價值不比資金投入遜色。而這也正是張亞勤追求的目標—微軟亞洲研究院不僅要服務於微軟，更要給中國本土播撒創新的基因，為中國培養自己的高手和大師。
2002年6月27日，中國教育部和微軟亞洲研究院聯合簽署《中國教育部與微軟公司合作備忘錄》，即「長城計畫」。教育部副部長趙沁平、教育部高等教育司司長張堯學以及北大、清華、上海交大、浙大和中國科技大學的校長悉數到場。微軟首席執行官史蒂夫·鮑爾默也特意趕到北京出席簽字儀式。
後續的實施效果表明，「長城計畫」為中國的教育事業帶來了一些新的思路。比如，「教育部—微軟重點實驗室」的建設模式不同於傳統實驗室，許多高水平的世界級科學家的加入使這些實驗室的學術水平也水漲船高。在一期項目建設的10個實驗室中，很快就有8個升級為教育部的重點實驗室。
「更重要的是，這些實驗室之所以成為重點實驗室，不是因為它的設備多麼先進、投入多麼巨大，而是注重高水平的研究成果，比如最有影響力的論文、研究項目在學術界的影響、博士生的學術水平在相關領域的影響力等等。」回憶起近十年之前的情景，張亞勤依舊不無感慨，在他看來，為中國學生創造機會、提供平台、使這些優秀的人才有機會「改變世界」，是比他自己再多拿多少個獎項都開心的事。
2005年10月28日，微軟亞洲研究院與中國教育部續簽《中國教育部與微軟公司合作備忘錄》，是為「長城計畫」的第二期。續簽意味著雙方對首期的合作成果均表示滿意。
其實，微軟中國研發集團對中國教育的支持不只是「長城計畫」。
2003年11月20日，微軟亞洲研究院與教育部還簽署了另一項旨在支持中國基礎教育和師範教育，幫助提升中國基礎教育信息化水平的「攜手助學」項目。迄今為止，遍布全國31個省區市的百間計算機教室已經全部建成並投入使用，超過10萬名信息技術專任教師接受了培訓。另外，研究院還在高校建立「微軟學生技術俱樂部」、「微軟軟體教學實驗室」，並舉辦各種活動，來支持和幫助學生學習提高計算機水平。
2009年，微軟中國研發集團和教育部簽署了「攜手助學」二期和「長城計畫」三期的合作協議，繼續支持中國教育事業，助力教育信息化、教育研究水平的提升及人才培養。
張亞勤在談到這些自己一手策划起來的項目時非常欣慰：
「長城計畫，我覺得可能是企業和教育界所有合作項目中最成功的一個。8年來，我們取得的成就包括三個方面。一，最重要的人才培養，包括對學生的培養、對青年教師的培養，甚至是對教授的培養。8年來通過研究院的平台，我們培養了近萬人，這些人都已經成為中國科研力量的中堅。二，科研的合作、交流，包括舉辦大型的國際會議。一系列合作計畫把很多高規格的國際學術會議帶到中國，比如我們每年都會邀請圖靈獎、諾貝爾獎的獲得者到中國來，與學生和教授們交流。三，通過這項計畫，國內計算機學科、工程學科和美國的高校科研機構建立了聯繫，國內的學生不一定非要出國才能接觸到世界最頂尖的技術，在微軟中國這個平台就可以實現。」
顯然，「長城計畫」對中國教育作出了巨大貢獻。2003年，教育部即向張亞勤頒發了「中國教育特殊貢獻獎」。儘管獲獎無數，但張亞勤強調，這個獎項對他意義重大。所謂「十年樹木，百年樹人」，能夠通過教育事業助力中國的長遠發展，張亞勤深感幸莫大焉。