司馬伷回歸長安的可能性是破滅了，他甚至都不沒有機會到達隴西和涼州，畢竟他身處武關，想要到隴西去，已經失守的長安是無論如何也不可能繞過去的坎。
但司馬伷仔細地察看了一番地圖，發現他還是有一條退路的，那就是武關的西南，與上庸等東三郡相接，荊州失守之後，上庸諸郡也紛紛向并州軍投降，但曹亮用兵不在此地，所以上庸等地實際上屬於三不管地帶，並沒有多少的兵馬駐守，一旦司馬伷到達上庸，向西可以投奔蜀國，向南可以投奔吳國，絕處逢生啊！
不過從武關到上庸，直線距離上看似很近，但由於這一帶的山脈都是東西走向的，所以武關道才成為南陽通往長安的唯一通道，司馬伷想要到上庸去，需要繞行不短的路，而且杜預的軍隊一直在武關前面虎視眈眈，司馬伷想要脫身，也不是一件容易的事。
可司馬伷終歸是不死心的，因為他清楚，一旦魏軍騰出手來，前後夾擊，自己再想走也走不了，所以趁著現在這麼一個空當，他必須要立刻行動起來，遲則生變。
還好司馬伷派人去深山之中探尋道路，經過樵夫的指點，發現了一條名為金絲峽的澗谷，峽深谷險，人跡罕至，不過穿過金絲峽，便可以直抵漢水，越過漢水，便可以到達上庸了。
司馬伷如獲至寶，感嘆真是天無絕人之路啊，立刻下令軍隊準備啟程，不過在撤退的時候，司馬伷還是在武關留下了三千人馬來斷後的，否則武關空虛，杜預就會趁機追來，自己還是沒法子走脫的。
司馬伷對留守武關的將領稱，長安那邊出現了緊急的情況，皇帝下詔要他回師勤王，所以他必須要趕回長安去，武關的防守就交給他們了，要他們必須全力以赴，不惜一切代價，那怕是把人馬給拼光了，也要守住武關，絕不容有失。
這時，長安失守的消息剛剛傳到了武關，也僅僅是司馬伷和手下的幾個親信將領知曉，其他的將士還不知道呢，司馬伷之所以隱瞞實情，也是為了防止軍心不穩，如果長安失守司馬昭身死的消息傳開，那對武關的士氣來說，肯定是倍受打擊的。
司馬伷刻意地不把他逃往上庸的消息告知諸將，就是為了防止泄密的，那怕杜預拿下了武關，也只會以為他逃往了長安，會順著武洛道一直追下去。
被安排下來留守武關的幾位將領是面露難色，司馬倫三萬大軍守武關，尚且是非常的吃力，現在主力撤走，只剩下了三千人馬，想要擋住七萬多人的魏軍，幾乎是一個不可能完成的任務。
但司馬伷軍令如山，他們又不敢違抗，只能是拱手領命，不過心裏面卻打著小九九，司馬伷把他們當做棄子來用，他們未必敢真心實幹地賣命，真要是到了勢窮的地步，到不如趁早投降，把自己的小命先保下來再說。
司馬伷當然不會知道這些留守將領的心思，不過對於他而言，武關的失守已成定局，關鍵是自己能不能逃得出去，這才是重點。
完成布署之後，司馬伷便立刻下令主力軍隊撤離了，為了避免被魏軍發現，司馬伷還特意地選擇了在天黑之後才行動，這個時候，魏軍也停止了進攻，撤回他們的營地去了，至少在明天日出之前，魏軍是不會發現晉軍的異常的。
而有這一夜的時間，也足夠司馬伷逃得比較遠了。而且就算是被魏軍發現了，司馬伷留下斷後的三千人也將會起到關鍵性的作用，如果是在白天，他們或許很難抵擋得住魏軍的進攻，但在黑夜裡，探不明虛實，魏軍也未必敢冒然地來進攻。
司馬伷下令軍隊偃旗息鼓，各部人馬不得發出任何的喧嘩之聲，悄然地離開了武關。
不過似乎司馬伷的擔心是多餘的，畢竟兩軍之間隔著一道難以逾越的雄關，高大的關牆給晉軍的撤離提供了天然的掩護，魏軍無法派出細作和斥侯來監視晉軍的動靜，所以只要晉軍不發出一些比較大的聲響來，武關外宿營的魏軍根本就不可能察覺到晉軍此刻的動向。
在這一點上，司馬伷也確實是夠謹小慎微的，甚至就連撤退的將士，司馬伷都沒有明確地告訴他們撤軍的目的地，直到走到了丹河口，司馬伷才下令晉軍從剛剛臨時搭建的一座浮橋上折向了南行。
這個時候，許多的晉軍將士不禁是倍感疑惑，不是說司馬伷接到了天子的聖旨，要回師長安勤王救駕嗎，怎麼會往南走呢？這豈不就是南轅北轍嗎？
此時司馬伷才不得不吐露實情，告訴眾人，其實長安城已經被魏軍所攻破，天子司馬昭也已經是龍馭賓天了，他們在武關，已經處於腹背受敵的不利局面，為了避免全軍覆滅，司馬伷必須帶領他們跳出魏軍的包圍圈，長安現在肯定是回不去了，所以他們只能是往南走，尋找生路。
說到司馬昭駕崩，司馬伷的聲音也不禁有些哽咽，眼眶之中溢出了淚水，再怎麼說，司馬昭也是他的兄長，更何況司馬昭當了皇帝之後，也沒有忘記他們兄弟，封了他為琅琊王，封了司馬亮為汝南王，並給了他們兵馬大權，讓他們來守武關和潼關。
只是弟弟司馬亮實在是不太爭氣，把潼關給弄丟了，司馬亮本人也失陷於亂軍之中，生死未卜。
身旁的親信趕緊地勸慰司馬伷，讓他節哀順變，現在的當務之急是如何帶領著這一支軍隊突出重圍，還不是哀悼的時候啊。
司馬伷當然分得清輕重緩急，他催促大軍渡過丹水，向南的深山峽谷之間開進，司馬伷還特意地安排了幾百人，向長安方向的商洛沿路丟棄一些破損的衣甲和軍械，製造出晉軍向長安方向前進的假象。
等到所有的人馬渡過丹水後，司馬伷立刻拆除了浮橋，並抹掉了一切的痕迹，整個大軍便這樣消聲匿跡了。