司馬昭親自領軍出征，還挾持了魏帝曹髦和郭太后共同前去討伐諸葛誕。諸葛誕突圍時被殺死。他麾下尚有數百親兵，被俘後誓死不降。魏兵每殺一人，便問余者投不投降，而他們態度始終不變，直至最後全部殺盡。死前均高喊：「為諸葛公死，不恨！」頗有昔日田橫五百壯士之風，給這場異常慘烈的戰事更平添了幾分悲壯的色彩。
飲馬長城窟，水寒傷馬骨。
往謂長城吏，慎莫稽留太原卒！
官作自有程，舉築諧汝聲！
男兒寧當格鬥死，何能怫鬱築長城。
長城何連連，連連三千里。
邊城多健少，內舍多寡婦。
作書與內舍，便嫁莫留住。
善侍新姑嫜，時時念我故夫子！
報書往邊地，君今出語一何鄙？
身在禍難中，何為稽留他家子？
生男慎莫舉，生女哺用脯。
君獨不見長城下，死人骸骨相撐拄。
結髮行事君，慊慊心意關。
明知邊地苦，賤妾何能久自全？
——陳琳《飲馬長城窟》
正元二年（255年）正月，鎮東大將軍毌丘儉與揚州刺史文欽稱奉郭太后詔書，於壽春起兵，討伐司馬師。二人所率淮南之軍是魏國精銳，驍勇善戰，一時間聲勢很大。
司馬師眼疾未愈，突然聽到毌丘儉起兵的消息，創傷未平之時又添煩惱。心煩意亂之際，司隸校尉鍾會獻計道：「淮南將士雖然勇猛，但他們的父母妻子都在內州。大將軍只要立即派兵增援內州，不讓毌丘儉攻取，並妥善保護淮南將士家屬，時隔不久，毌丘儉部必定軍心不穩，土崩瓦解。」
司馬師深以為然，又不顧病痛，親自率軍前往。他嚴令部下不可與毌丘儉交戰，只深挖溝壕、高立堡壘，以挫其銳氣。這一招相當厲害，毌丘儉、文欽不能速戰速決，起兵時的銳氣很快消退。
而東吳也在這個時候落井下石，派大軍襲擊壽春。毌丘儉無法前進，回師又擔心被東吳抄襲，日久師疲，將士開始思念北方的親人，士氣越來越低落，許多人都跑到了司馬師一方。
為了緩解困境，毌丘儉派文欽圍攻兗州刺史鄧艾 所在的樂嘉城 。文欽到達之時，司馬師已經率領援軍搶先進入城中。文欽見到對方兩路大軍會合，一時不知道該怎麼辦。文欽之子文鴦才十八歲，卻勇猛強健，武藝過人，主張趁對方尚未安定時全力出擊。於是，文欽連夜進攻樂嘉城，派士兵大聲鼓噪叫喊，城內軍隊惶恐不安。司馬師也感到了人生中最大的一次恐懼，他那隻受過箭傷的眼睛因壓力而外突了出來，疼痛難忍，又不敢出聲，只好咬住被子，結果把被子都咬破了。
幸運的是，樂嘉城城牆堅固，司馬師一方又佔有兵力優勢，文欽見強攻不下，決定先行退師。司馬師急忙派兵出城追擊，文鴦單槍匹馬闖入數千騎兵之中，殺傷百餘人，再從容突出重圍而走。等到追兵追近，又重新殺回，衝鋒陷陣，所向披靡，來回六七次後，追兵再也不敢靠近。文欽得以從容退軍。
毌丘儉聽說文欽退軍後，一時恐慌，連夜拔營而走，將士隨之四散潰逃。文欽回師後，已經是孤立無援的境地，無奈之下，只得率部投降了東吳。毌丘儉在逃亡途中被一個叫張屬的百姓射殺，張屬也由此一步登天，被加封為侯爵。
司馬師帶病出軍，將毌丘儉擊敗，但他自己的病情也急速加劇，最終在回軍途中病倒在許昌，奄奄一息。其弟司馬昭火速從洛陽趕到許昌，名為「省疾」，實為交接軍國大事。這樣，司馬師死後，司馬昭獲得了總統諸軍的大權。
毌丘儉結局自然相當悲慘，首級被割下來送到洛陽示眾。其子毌丘甸時在朝中任治書侍御史，在毌丘儉起兵前離開洛陽，逃亡到新安的靈山上，不久追兵追至，將其圍捕誅殺。
毌丘甸妻子荀華本應株連處死，但荀氏族兄荀豈頁、族父荀虞與司馬氏均有姻親關係，二人共同向皇帝曹髦上表，請求饒恕荀華性命。曹髦遂親下詔書，令荀華與毌丘甸離婚，如此，荀華不再是毌丘儉兒媳身份，便不再受株連。
毌丘甸與荀華所生之女毌丘芝已經出嫁，也株連被判死刑，因懷孕暫時囚於司隸大獄。荀華愛惜女兒，然她自己也是剛從刀斧之下逃生，又哪有能力營救女兒性命？後荀華得高人指點，寫信給前司隸校尉何曾，請求自己去做官婢，以贖毌丘芝一命。何曾去職守喪在家，卻得身為荀子後人的荀華求助，極感榮耀，於是上書稱株連出嫁之女的法律條文不合情理，請求複議。廷議後，朝廷決定更改《刑法志》，此後不再株連出嫁之女，毌丘芝由此得以出獄。
毌丘家族中，除毌丘芝幸免於難外，毌丘儉親弟毌丘秀及次子毌丘宗逃入吳國，也躲過了一劫。但荀華、毌丘芝母女被赦，只是由於荀氏家族勢力太過雄厚，連司馬氏也要敬畏三分，其他與毌丘儉關係密切的人就沒有這麼幸運，或多或少都受到了牽連。
更有甚者，京師有流言說，身為「竹林七賢」之首的嵇康曾經預備暗中相助毌丘儉，支持以武力恢複曹魏掌權，只是被山濤所阻止。好在司馬昭沒有相信這種說法，除了他對山濤極為倚重信任外，還因為亦有荀氏家族參與淮南兵變的流言，毌丘甸妻子荀華及其女毌丘芝既受赦免，司馬昭又怎會因為這一點就得罪整個荀氏呢？既然他不認為荀氏參與了兵變，當然也會忽視嵇康預謀的流言，至少表面是如此。
嵇康當時已經辭官，雖然聲名在外，畢竟只是一介布衣，大多數人不認為他真的有能力幫助毌丘儉。然偏偏在毌丘儉兵變之後，嵇康寫了一篇《管蔡論》的文章。管、蔡是指西周初的管叔和蔡叔，與武王、周公是同胞兄弟。武王死後，成王年少，由周公旦攝政，管叔和蔡叔不滿意周公所為，起兵叛亂，結果為周公東征所平定。傳統史家均認為管、蔡二人「頑惡顯著」，但嵇康在此文中卻為管、蔡翻案，說他們本來是「服教殉義、忠誠自然」的，只是由於「卒遇大變，不能自通，忠疑乃心，思在王室，遂乃抗言率眾，欲除國患」，盛稱二人忠於王室。而在現實中，司馬氏曾以周公自居，此時又發生了毌丘儉起兵事件，《管蔡論》很容易讓人想到嵇康是想用此文來為毌丘儉張目。
時人不知嵇康的真實想法，但他公然為管、蔡的叛亂行為辯解，本身就是對傳統名教觀念的挑戰，在當時需要極大的勇氣。大概正因為如此，他引起了司馬昭的極度重視。很快就有消息傳來，大將軍司馬昭準備徵辟嵇康為僚屬。為此，嵇康一度離開洛陽，開始了遁跡山林的避世學道之路。
司馬昭字子上，司馬懿與張春華次子。他曾經上書反對魏明帝的奢侈之政，聲名鵲起。高平陵事變前一天，司馬懿籌劃第二天發動政變，當晚司馬昭輾轉反側，難以入眠，司馬師卻鼾聲如雷，熟睡如常。這兄弟二人的性格差異，由此可見。
司馬昭接替司馬師的大將軍位子後，猶不滿足，於是又加號大都督，奏事不名，假黃鉞。他的心腹黨羽高柔被封為太尉，叔叔司馬孚升任太傅。到了此時，司馬昭權勢之大，已經超過了其父親和兄長。只不過，他這個大都督坐得並不安穩，還沒過幾天，淮南又發生了諸葛誕兵變。
之前毌丘儉在淮南起兵後，曾經派人聯絡鎮南將軍諸葛誕，但諸葛誕殺了使者，將公告天下，宣稱毌丘儉、文欽大逆不道。諸葛誕與何晏、夏侯玄等正始名士關係極好，在政治立場上，他一向親近曹魏，不滿司馬氏專權，但他為何不與毌丘儉聯手起兵，反倒在毌丘儉兵敗後單獨起兵，著實令人費解。推斷起來，大概是個人的情感因素在其中，他應該與毌丘儉、文欽並不和睦，這一點，從他後來毫不猶豫地殺死文欽也能看出來。
毌丘儉兵敗後，諸葛誕任鎮東大將軍，已經成為親近曹魏的殘餘勢力中最強的一支。素來多疑的司馬昭當然有所警惕，不過礙於之前諸葛誕殺死毌丘儉使者的表現，不好下手。諸葛誕也感到了危機，利用身在淮南前線的機會，大肆招兵買馬，豢養死士，以防不測。
司馬昭聽到風聲後，派心腹賈充前去慰勞，藉以窺測諸葛誕。賈充見了諸葛誕後，有意談論時事，裝作很隨便的樣子說：「洛中諸位賢達之人都希望實行禪讓，您認為如何？」意思是曹魏應該讓位給司馬氏。
諸葛誕當即火冒三丈，怒聲斥道：「你們賈家世代受到魏君的恩惠，你怎能想把社稷轉送他人？要是真有誰膽敢在京師發動叛變，我就是拼了命也要去收拾他！」
賈充回到洛陽後，告訴司馬昭說：「諸葛誕在揚州威信很高，深得士眾之心。看樣子，他必然要謀反。不如趕緊把他調到京師里來。」
司馬昭擔心調不動諸葛誕，反而會逼得他造反。賈充道：「早反禍小，遲反禍大！」
司馬昭又想到著名相士朱建平在《原君書》中關於琅琊諸葛氏命運的預測，料想天意如此，諸葛誕無論如何都會犯上作亂，遂採納了賈充的計策，請魏主曹髦下了一道詔書，任命諸葛誕為司