一回到長安，司馬懿就謁見魏帝曹睿，啟奏道：「隴西各郡敵軍已全部肅清，但蜀軍兵馬仍然留在漢中，就此收兵，實難確保大魏安泰。若天子為此再降敕命，臣雖不肖，願領天下兵馬，進軍蜀地，以絕寇根。」
魏帝深以為然，大大褒揚了他的忠貞，但尚書孫資竭力規勸道：「昔太祖武皇帝收服張魯時，常告誡群臣曰：『南鄭之地，真為天獄。其中斜穀道為五百里石穴，非用武之地。』今若盡起天下之兵，踏入這塊難地伐蜀，恐會導致內政重負，且東吳又會乘虛來犯。不如以現在之兵，分命大將據守險要，養精蓄銳。待吳、蜀二國自相殘害，那時圖之，豈非勝算？」
魏帝聽後猶豫不定，又問道：「司馬懿，此言可有理？」
司馬懿並未反對，只是答道：「那也不失為穩妥之道。」
魏帝於是採納孫資的方策，將郭淮、張郃留下鎮守長安，分撥諸將把守各處險要重地，隨後便還都洛陽去了。
卻說孔明嘗到前所未有的苦果之後，正在漢中整頓敗戰而歸的蜀軍各部。
全軍大部陸續撤回漢中，只有趙雲與鄧芝兩支人馬尚無任何消息。
「為何還未到達？」
孔明食不甘味，夜不能寐，無時不在擔心二人的安危。
直至全軍都已到達漢中之後，趙雲、鄧芝才帶著人馬，終於越過險路回歸大本營。從滿身征塵的將士身上，不難想見他們歷經的苦戰與艱險。
孔明親自走出營門外迎接，極口稱讚趙雲道：「聽說將軍讓鄧芝領兵先走，自己率部殿後，英勇禦敵，使全軍圓滿撤退。實乃老而彌堅，堪稱表率，不愧為頂天立地的大將軍。」
隨即令人從庫中取出黃金五十斤贈與趙雲，又取絹綢一萬匹賞給趙雲部卒，但趙雲堅辭不受，他誠懇地說道：「三軍既無尺寸之功，則我等俱有罪。若反而受賞，必授人以口實，腹誹丞相賞罰不明。且請將金錢、絹綢放回庫里，待今冬須用之時，再將其分與諸軍，於寒峭之際，使將士感受暖意。」
聽罷趙雲所言，孔明深為感動，心中不禁想到，難怪先帝劉玄德一直重用趙雲，對其深信不疑。
感動之餘，他又想起另一件亟待解決的難題，那就是如何處置馬謖。
終於有一天，他不得不語氣沉重地下令，要以軍法追究街亭戰敗的責任。
「傳王平入帳！」
王平隨即入帳候審。孔明並不認為街亭失利是王平之罪，但他既然作為副將協助馬謖前去防守，自然應令其如實陳述此戰始末。
「你且說出事情經過，不得隱瞞，要將經過如實道來！」
王平答道：「出發之前，丞相已就街亭布陣詳細指示，我自認按此方策防守，必然萬無一失。但馬謖是主將，我只是其副將，馬謖全然不聽我之所言。」
面對軍法審判，王平自知事關身家性命，自然不敢包庇馬謖。他一一據實供述道：「初到街亭時，不知為何，馬謖定要將營陣扎在山上。我再三相勸，要在當道構築土城，安營把守。馬謖大怒不從，我只得自引五千兵士離山十里紮寨。魏國大軍殺到時，我手中的兵力根本不足以抵擋魏軍。山上被敵軍四面圍合，斷了水路，士氣全無，土崩瓦解，降魏者無數。街亭乃是整個戰局中的必爭之地，防線崩潰以後，魏延、高翔等部聞訊前來援救，也已無濟於事。我可對天地起誓，自認從始至終盡心盡職，並未違反丞相命令，此後的戰況請您去問其他將領。」
「好吧，退下！」
錄完供詞，孔明又傳魏延與高翔進帳，待一切問完之後，才對吏卒下令：「帶馬謖！」
馬謖自縛跪於帳前，一眼望去，神情極為沮喪。
「馬謖！」
「屬下在。」
「你自幼飽讀兵書，熟諳戰法，才華出眾。我多次叮嚀，街亭是我軍根本，並授予防守策略。你為何還會鑄成如此無可挽回之大錯？」
「是……」
「不要搪塞！街亭乃我軍咽喉重鎮，我再三告誡你，哪怕舍掉性命，也要堅持守住嗎？」
「我無顏面見丞相。」
「乳臭未乾，卻狂妄自大。我本以為你長大成人，已經多少變得老成，豈料你如此不堪重用。」
聽到孔明悵然長嘆，馬謖禁不住露出平日恃寵而驕的本性，漲紅了臉大聲喊道：「我不知王平是如何稟報的，但當時魏國大軍排山倒海，無論何人也休想擋得住。」
「住口！」
孔明瞪著他厲聲說道：「王平的英勇奮戰與你的倉皇敗北天差地別。他在山腳構築小寨，蜀軍全線潰敗之時，仍然帶領些許人馬，全進全退，使敵人疑神疑鬼，以為他有伏兵，不敢輕舉妄動，掩護了所有蜀軍的撤退。而你卻與此相反，起初便不聽他的勸諫，自己愚蠢至極，還要一意孤行，偏偏要在山上安營紮寨。」
「是的，但兵書上不是說，『居高臨下，勢如破竹』嗎？」
「無知！」孔明一臉鄙夷，幾乎想要堵住自己的耳朵。
「你對兵法只會生搬硬套！如今還有何話要說？馬謖，你死之後，我會為你妥善照顧你的遺族，我要將你……將你……處以死刑！」
說完之後，孔明背過臉去，對一旁的武士下令：「立即將其正法！」
馬謖聽到孔明下令，放聲大哭道：「丞相！丞相！馬謖罪該萬死。今日斬我以明大義，馬謖我死而無憾！」
真是人之將死，其言也善。孔明聽他如此說，也禁不住落淚不止。
武士們一聽斬首令下，不由分說，立刻將馬謖拉到轅門外，正欲行刑之時，忽然聽到一聲大喝：「且慢！刀下留人！」
這是剛從成都受命來此的蔣琬，他見馬謖要被斬首，慌忙奔入營中，規勸孔明道：「丞相，值此天下多事之秋，斬了馬謖這樣的智謀之臣，豈不是國家的重大損失嗎？」
「哦？蔣琬，我不曾想到你這樣身份的人，也會來為馬謖求情。昔日孫武所以能制勝於天下，乃因其用法嚴明。如今四海紛爭，人綱紊亂，若有法不依，何以討賊正世？且請三思。」
「然而將馬謖斬首，實在可惜，丞相難道不覺得他也是個人才？」
「與馬謖之過相比，我若徇私留他一命，才是更大的犯罪。正因為他是我憐惜的有才之人，我今天才不得不殺他……還未動手嗎？等什麼？立即斬首！」
孔明令侍從前去轅門外促其立即執行。時過不久，處斬完畢，侍從將首級送來交孔明驗明。孔明一見馬謖頭顱，不由得以袖掩面，倒地痛哭。
時為大蜀建興六年（公元228年）夏五月，馬謖被斬時只有三十九歲。
首級即刻被送往蜀軍各營示眾，孔明隨後布告全軍，重申嚴肅軍紀。
馬謖的首級最後被與軀幹縫合為一體，然後入棺厚葬。其遺族此後一直得到孔明照顧，但孔明心中並未感到寬慰，每當想起是自己准許馬謖去守街亭的，便心如刀割。
「馬謖的罪責其實在我。」
如今蜀國的形勢日趨危急，想到先帝的遺托，想到肩負的重任，他又陷入了欲死不能的自責之中。孔明最後寫就一份奏表，委託回成都去的蔣琬轉呈蜀帝。
奏表全文充滿愧疚之意，承認此次大敗之根本原因，在於自己用人不當；對於國家蒙受重大軍事損失，負有不可推卸的罪責。奏表中寫道：「臣亮既然位居三軍之首，所犯重罪豈能由他人代為承當。故請自貶三等，奉還丞相之職。僅乞留亮一命，以待日後戴罪為國儘力。俯伏待命！」
蜀帝收到大敗的戰報後，非常痛心，讀完孔明的奏表，更為煩惱。他派敕使前去傳旨：「丞相乃是國家重臣之首，豈可偶有閃失便隨意貶斥？請留任原職，勵精圖治，激揚士氣。」
孔明又奏道：「為嚴明軍紀，已將馬謖斬首。若亮之責任曖昧不清，今後終將無以肅正法紀、治理國政。」
見孔明無論如何不願留任丞相，蜀帝只得按其所言，免去丞相一職，改任右將軍，依舊總督兵馬。
孔明恭謹地拜領了新的任命。
國家無論如何強盛，一旦遭到大敗，必然會士氣低迷，民心渙散，但蜀國士氣並未低落，此次戰敗反而激起了全國同仇敵愾的士氣。
孔明雖然揮淚斬了馬謖，卻以他的死警醒了無數後人。《襄陽記》中對此亦有所記載：「……時二十萬兵聞此，皆垂泣。」
軍紀渙散本為敗軍常態，但孔明揮淚斬馬謖避免了蜀軍重蹈此覆轍，更以承擔責任自貶官位的行為，使將士們的求戰慾望更為強烈，「戰敗非為總帥之咎，實為全軍之過，豈能歸罪於丞相一人？來日定要以牙還牙，一雪此恨！」
故馬謖被斬，也可謂沒有白死。
孔明又論功行賞，除已犒賞老將軍趙雲之外，又獎勵街亭之戰中嚴守軍令的王平，將其提升為參軍。
一天，敕使費禕為傳詔來到漢中，他安慰孔明道：「聽說許多西城百姓遷來漢中，皆為