1966年，張亞勤生於山西太原的一個普通教師家庭，父親讀完大學後曾分別在大學、中學任教。孩提時代的張亞勤飽受讀書世家的文化熏陶。5歲時，一場災難降臨到小亞勤的家庭，父親在歷經生活的磨難後，離開了人世。從此，巨大的生存壓力便降臨到他們一家人的頭上。
張亞勤3歲識字，5歲上學。幼年時期，他就顯現出了非凡的記憶天賦。「我從小看什麼東西就能記住，可以達到過目不忘的程度。」張亞勤回憶說。與普通孩子的死記硬背不同，他對圖像有天生的敏感。讀小學時，老師讓他看5分鐘報紙，然後他就能背出報紙上的內容。「我的記憶是影像式的記憶，在腦海中保留一幅圖畫，回憶的時候照著圖畫念就行，像放電影一樣。」
由於他經常在自己家和外婆家兩個地方走來走去，不斷轉學，有的時候留一級有的時候升兩級，到11歲時，張亞勤就上到了初三。
那是1977年，文革結束，整個國家像是大病初癒，大家都充滿著期待、希望。這一年的10月，全國到處在傳播著一個令人振奮的消息，中斷了11年的高考制度恢複了。張亞勤也感受到了這種歡樂的氣氛，但那時的他還不知道，不久之後，自己將會做出一個怎樣的決定。
張亞勤記得，那年12月的一天，地面的雪堆積了一地。他正在暖和的屋裡和小夥伴下軍棋，班主任老師敲門而入，手裡拿著一份報紙。班主任是來找媽媽談事情的，張亞勤繼續專心和小朋友對決。
「畢老師，你看這份報紙，上面講到一個13歲的神童，江西的，天文地理，琴棋書畫，無所不知，還是數學的天才……」
張亞勤一下來了興趣，他拿起那份報紙，認認真真地讀了一個小時。他從報紙上得知，這位小神童已經被中國科技大學破格錄取。
11歲的小亞勤被這篇報道吸引住了，或許是小孩子的好勝心，又或許是這顆璀璨的童星註定要開始發光發熱，他堅定地對媽媽說：「我要上大學。」
母親不想給亞勤壓力，對他說：「你11歲上初三已經很了不起了。」
張亞勤果斷地說：「我要考中國科技大學。」
但是，按照規定，只有高二的應屆生才能參加高考，張亞勤非但不符合條件，他還有兩年的課程要補。身為中學老師的母親找到學校的校長，想讓張亞勤直接上高二，這是唯一的能讓張亞勤符合高考條件的辦法。校長說：「亞勤很聰明，我也很樂意幫忙，但是他必須先考上高二的尖子班，那個班上師資力量強，才有上大學的機會。」
當時，距離尖子班考試只有一個月的時間。
張亞勤以驚人的學習速度，在那短短的一個月內完成了高中兩年的課程，並成功考入了高二的尖子班。他回憶說：「『文革』時的功課也比較簡單，所以一個月把兩年的課學完，還是有可能的。這一個月，可能是我一生中最用功的一個月，每天學習差不多20個小時。所以，有的時候動力很重要。我的動力就是，要去參加高考，要去上中科大。」
距離高考只有7個月了，拿到考試資格的張亞勤，在這樣的動力下，投入了到更緊張的學習中。但他的身體開始抗議，長期的勞累，使他突然得了急性肝炎，不得不住院治療。半個月後，他出院了，但身體尚未完全恢複。他一門心思還是想著兩個字——「高考」。
母親心疼張亞勤，怕他的身體扛不住。母親說：「你還小，今年還是不要考了吧。明年考或者後年考都沒關係。」張亞勤的回答是：「我還是應該去嘗試一下，如果不去嘗試，不去考試，等於承認失敗，等於是零分了。」
母親知道，兒子決心已定，自己無力阻止。她在為兒子擔心的同時，也感到了驕傲。
1966年6月，我國的高等院校停止招生，研究生招生工作和選拔派遣留學生工作同時停止。1966年到1977年，中國的大學教育幾近癱瘓，沒有高考，沒有經過統一正規考試的大學生在校學習。1977年8月，剛剛復出的鄧小平主持召開了科學與教育工作座談會。此次會議決定恢複中斷10年之久的高考。1977年冬天，570萬考生走進了期盼多年的考場。1978年夏天，又有590萬考生參加考試。
年僅12歲的張亞勤參加了1978年的「黑色七月」那場考試，和其他幾百萬比他大很多的考生一起，解答著相同的試題。
一個月後，分數揭曉。遺憾的是，張亞勤的高考成績比中科大在山西的錄取分數線差了10分。正當他以為自己要和中科大失之交臂時，張亞勤得知了一個重新激起他信心的消息——1978年3月，在李政道、楊振寧和丁肇中等著名科學家的倡導下，中科大創建首期少年班，少年班有一個獨立於高考之外的招生考試。
30年後張亞勤回憶起當時的事，依然記憶猶新：「當時少年班的招生，也不是十分的規範，最後決定在全國大的城市裡面進行一個統考。我報名的時候，離少年班考試只有差不多兩個星期的時間了。當時我連考哪幾門都不知道。我說肯定會考數學吧，我就拿了一本老的數學習題集，開始複習。」
張亞勤如願以償考入了中科大，他還是那屆學生中唯一一個數學得滿分的人。
收到錄取通知書後，整個太原轟動了。張亞勤去學校的時候，甚至看到牆上寫著大幅的標語：「向張亞勤同學學習」、「掀起向張亞勤同學學習的新高潮」。太原出了個神童，這個消息不脛而走。
回憶30年前的那場考試，張亞勤說：「1978年，那是一個很特殊的年代，鄧小平恢複工作，他以一個政治家的視野、遠見、魄力和勇氣作出了改革開放的決定，恢複高考。這其實是改革開放里很重要的一個戰略，因為改革開放中國發展需要人才，高考就是培養人才，所以是最佳的渠道。而且恢複高考還有一個象徵的意義，那就是給了大家一個公平的機會；那些在過去喪失了機會的年輕人，可以通過自己的能力接受教育，走向社會。」
他說，恢複高考這件事，對於整個改革開放都有特別重要的意義，因為改革開放最重要的是人才。高考恢複了，給中國培養了一大批人才，這是改革開放最重要的基礎。
他感慨道：「我覺得1978年，是改變我命運的一年，是改變了一代人命運的一年，也是改變了中國命運的一年。」
1978年，全國科學大會之後，位於合肥的中國科技大學成為當時中國最具知名度的高等學府。除了與北大、清華一樣出色的學生、老師和校風之外，中科大的少年班是當時報刊雜誌上最吸引人的新聞。
12歲的張亞勤以當年中國最年輕的少年大學生的身份，在這一年的秋季，坐了十幾個小時的火車，來到了安徽合肥。
上大學的很多事情，比如辦理轉移糧戶關係、買火車票、行李託運等，都是張亞勤自己辦理的。雖然有母親陪著，但她不出面，只是提醒張亞勤不要把證件丟了。
有趣的是那次辦理行李託運時，工作人員說：「叫大人來辦，小孩不能辦。」坐在稍遠處看管行李的母親這才上來說：「他能行，讓他辦好了，我不會寫字。」工作人員無奈，只好讓張亞勤辦。填完各種表格後，工作人員讚賞地說：「還真行！」大家一問才知道，這個年僅12歲的小男孩，要去合肥的中國科技大學上學。辦事的窗口一下圍起了一堆人，張亞勤和母親在一片讚揚聲中費力地離開了現場。
小時候，他就常常一個人乘火車來往於太原到晉南的姥姥家，母親說：「男孩子，就要到外面跑跑，才能獨立，才能真正了解外面的世界。」因此母親對張亞勤此次的只身前往，倒很是放心。她知道，張亞勤從小就是一個很自立的孩子。
其實，在火車站等車的張亞勤，還是滿心期盼著母親能夠送自己，畢竟他還是一個孩子。一路的旅程由於同伴的相隨而不顯孤單，這中間還發生過一些趣事。那時從太原開往合肥的火車，需在山東轉車，之後的幾年，他們都是來來往往坐著同一趟車。離開父母的快樂的孩子們會改變乘車路線，選擇在山東德州轉車，為的是轉車的時候，饕餮一頓著名的德州扒雞。
那時的中科大是什麼樣子呢？張亞勤記得，當年拿到錄取通知書時，母親拿出一張老地圖，想要找出中科大的具體位置。地圖上有各個不同的城市，大的城市有三個圈，像北京大五星三個圈，中等城市兩個圈，小城市是一個圈。張亞勤記得，那張地圖上，太原是兩個圈，合肥是一個圈，他對母親說，原來我要跑到一個更小的地方去啊。
但是到中科大他才發現，中科大儘管在一個小的城市，但是這裡藏龍卧虎，集中了各地的精英。所以後來他在給母親的信中提到，合肥這個地方儘管很小，但是中科大可真大，覺得自己真是開拓了眼界。
張亞勤記得，戴著校徽坐公共汽車，別人看他個子小，就問他是不是少年班的小孩。他美滋滋地點點頭，售票員就說不要票了。他說：「人們對中科大