桓溫早就有篡晉奪位當皇帝的野心了，他曾經嘆道：「男子不能流芳百世，亦當遺臭萬年！」按照桓溫的計畫，他先通過北伐樹立威望，邀買人心，然後再逼晉帝退位，但攻前秦的長安，因缺糧而退；伐燕國的鄴城，又在枋頭大敗。這回桓溫恢複實力，收復壽春之後，又問郗超：「憑我現在的實力，還能夠再次北伐，一雪枋頭之恥么？」
郗超回答：「您的實力還達不到。」桓溫遂悶悶不樂。郗超知道桓溫的心思，於是對桓溫道：「雖然您現在擔天下重任，但由於北伐失敗，如果不能立下不世之功，則不足以鎮民望。」
桓溫道：「我也在為這事兒發愁呢，你說怎麼辦？」
郗超道：「伊尹放逐太甲，霍光廢黜昌邑。明公要立大威信，使四海信服，也應當學習他們。」
「我早有此心，可是皇帝沒什麼過錯，我找什麼理由廢掉他呢？」
「沒什麼過錯，就給他找出點兒過錯來。宮門深幽，最能讓人相信的是床笫方面的事。您可以說皇帝陽痿，他的兒子全部是他的寵臣相龍、計好、朱靈寶等參侍內寢的大臣所生。僅憑此一件事，必可廢掉他！」
桓溫大喜，先派人去造謠，等朝野之間傳得沸沸揚揚的時候，桓溫帶兵入京，對褚太后說，因為皇帝有痿疾，要廢掉皇帝。
太后大驚：「不會吧，那為什麼有田氏和孟氏為皇帝生有三男？」
桓溫假裝吃驚道：「您沒聽說么？現在朝野都知道，這三個孩子是皇上的寵臣相龍、計好、朱靈寶等所生。此三臣經常和皇上在一起，甚至夜不出宮，這事很有可能。」
太后被桓溫也給弄懵了，遂道：「那就憑你處置吧。」
桓溫從太后那裡誆到了太后懿旨，遂廢司馬奕為東海王，另立相王司馬昱為帝。朝中百官並非沒有反對的，但桓溫帶兵入朝，殺氣騰騰，哪個敢說半個不字。桓溫廢掉司馬奕後，把田氏、孟氏及其所生的三子殺掉，相龍、計好、朱靈寶也被滿門抄斬。司馬奕被強迫離開都城，遷到吳縣西柴里居住。司馬奕害怕桓溫暗害自己，竟然不敢讓自己的妻妾懷孕，每日只是飲酒睡覺，忍辱求生。
桓溫廢立晉君之後，回到姑孰，把郗超留在京中把持內政。司馬昱被推上皇位後的第二年即病亡，年五十二歲。司馬昱臨終遺詔稱：「大司馬桓溫依周公居攝政事。少子可輔者輔之，如不可，君自取之。」意思是由桓溫來控制朝政，如果桓溫願意，也可以取而代之當皇帝。
司馬昱之所以下這樣的詔書，是怕桓溫將來篡位加害自己的子孫，乾脆從法律的形勢上確定桓溫當皇帝的合法性，這樣桓溫也就用不著加害他們了。但侍中王坦之堅決反對，甚至把司馬昱的遺詔撕得粉碎。
司馬昱嘆口氣道：「天下，本是我祖無意中得來的，你又何必阻止呢？」
王坦之反駁道：「天下是宣帝、元帝的天下，皇上您又憑什麼讓給他人呢？」
在王坦之的堅決要求下，司馬昱又改遺詔為：「家國事一稟大司馬，如諸葛武侯、王丞相故事。」就是說只給予桓溫相當於三國諸葛亮一樣的權力。桓溫並沒有擅斷朝政的權力。
司馬昱死後，朝臣不敢立新皇，要去向桓溫請示。謝安、王彪之、王坦之堅決按照司馬昱的遺詔，擁太子司馬曜即皇帝位。
郗超憑自己在朝中的力量沒辦法阻止三人立新君，於是跑到桓溫那裡告狀說：「本來司馬昱並無此遺詔，您可以趁此機會控制朝政，甚至得到皇位。但這樣的好事全讓謝安、王彪之和王坦之給攪黃了。」
桓溫也非常失望，聽了郗超的話，立刻以覲見新帝的名義，帶大軍去京城。大軍到了京城南十二里地的新亭，然後請謝安和王坦之出城來見，並埋下伏兵，打算一言不合，便把二人殺掉，然後帶兵入京，強行奪權。
謝安、王坦之是司馬昱遺詔中三位顧命大臣中的兩個，如果除掉此二人，或者把此二人爭取過來，桓溫便可在朝中為所欲為。太后及百官包括王坦之都很害怕，只有謝安道：「晉朝的存亡，在此一行。」
謝安和王坦之到了新亭，只見桓溫大軍兵營整肅，殺氣騰騰，隨行人都嚇得臉色蒼白，就連王坦之也很緊張，連手版都拿反了。只有謝安談笑風生，神情輕逸。與桓溫相見之後，謝安笑道：「我聽說如果諸侯有道，則四鄰都是可以幫你防守的朋友，你又何必在牆後面藏這麼多士兵呢？」
桓溫十分尷尬，立刻撤去所有伏兵。謝安先把桓溫大大地吹捧了一頓，稱：「別說是武侯諸葛亮、丞相王導，就是歷史上的伊尹、周公在世，也比不上您啊。」幾句話拍得桓溫很是舒服，然後兩個人就司馬昱的謚號、廟號，祭拜陵寢的日期等事進行了商量。
桓溫遂和氣地進入建康，處理司馬昱的喪事，扶立新君。桓溫忽生大病，一連十數日卧床難起，病好後，卻不離開京城，而且向謝安和王坦之提出一個要求：要九錫之禮。
九錫是九種禮器，是天子賜給諸侯、大臣有殊勛者的九種器用之物，是最高禮遇的表示。在桓溫以前的封建王朝中，只有王莽、曹操、司馬昭和孫權接受過九錫禮，其中王莽、曹操和司馬昭篡位，孫權也稱了皇帝。於是，加九錫成為權臣建立威信，當皇帝的鋪路石。
謝安當即道：「憑您的功勞別說是受封九錫了，就是禪受皇位也未嘗不可！您只管回去，這事包在我的身上。」
桓溫很高興，帶著軍隊離開建康回去了，王坦之則很生氣，責問謝安道：「九錫是異常之禮，一旦相加，則晉室危矣。你怎麼會輕易許諾？」
謝安笑道：「我如果不許給他，他怎肯便離京城？我跟你說實話吧，我略懂醫道，看桓溫病情沉重，這幾天的精神頭是迴光返照。也就是說他活不了幾天啦。不知道他能不能等到加九錫之禮的時候呢。」
王坦之恍然大悟，不得不佩服謝安智謀遠在他之上。
桓溫回到姑孰，果然又病倒在床，病情一天比一天重。桓溫怕自己等不到九錫的日子了，便時時派人去京城催問。謝安和王坦之今天推明天，明天拖後天，一直拖了兩個多月，實在是推不過去了，便讓吏部郎袁宏草擬詔命。袁宏是當時東晉寫文章最好的人，妙筆生花，文採過人。當天接到任務，當天就完成了，馬上交給謝安，得意揚揚地等謝安誇獎。
哪知道謝安隨便掃了一眼，便讓他修改，也不說改什麼，只說不好。袁宏這次不敢大意，想了三天才敢動筆，將文章寫得更是花團錦簇一般，但謝安仍是不滿。如此多次，一連改了二十多天不能定稿，袁宏基本上要崩潰了。他於是向王彪之請教。王彪之笑道：「你寫的文章很好，哪一篇拿出來都可以用。不過你好笨啊，現在大家都知道桓溫就快病死了，謝公這是在等桓溫的死訊。你著急什麼？」
袁宏這才明白，回去以後便開始隨便寫兩筆，讓謝安看了，回去再改再交，如此反覆，不覺又是一個月。到了寧康元年（373）七月，桓溫病情突然惡化，他知道自己不行了，遂讓弟弟桓沖接替他的位置，並且告誡桓沖和自己的幾個兒子道：「以你們的才能，絕不是謝安的對手，所以今後再不可對晉有異心。」當月桓溫病亡，享年六十二歲。
桓溫死後，謝安大喜，立刻讓袁宏隨便拿出一篇詔命書稿來，提請皇上同意後，給了桓溫加九錫的賜禮。桓溫死後方得到這一稱號。
桓沖則被封為中軍大將軍，都督揚、豫、江三州諸軍事，揚、豫二州刺史，鎮守姑孰，這個權力仍然很大，但比桓溫在世時要小多了；又以王坦之為中書令，王彪之為尚書令，謝安為尚書僕射、領吏部尚書。三人共輔朝政。
郗超不甘心就這樣失去一次謀大事的機會，便勸桓沖帶兵進京，殺謝安和王坦之，執掌東晉朝權。桓沖不但斷然拒絕，還辭去了揚州刺史的職位，向朝廷表示忠心。朝廷遂以桓沖為都督徐、豫、兗、青、揚五州諸軍事及徐州刺史，鎮守京口；以謝安兼揚州刺史。東晉的局勢從此安定下來。
苻堅聽說桓溫病亡，便要出兵江南。王猛道：「桓溫雖死，還有謝安！現在要伐江南，還有困難。不過，現在東晉的軍事力量大多集中在東邊。謝安忙於朝政也無力西顧。咱們可以先取梁、益二州！」梁州和益州不僅包括漢中巴蜀之地，而且擁有北至陝西南部，南到雲南的整個地區，也就是當年三國蜀漢劉備所轄治的地區。先攻取這個地方，再統一天下，正是西晉司馬炎一統全國的戰略部署。苻堅於是命益州刺史王統、羽林左監朱肜、隴東太守姚萇率兵三萬出漢川；前禁將軍毛當、鷹揚將軍徐成率兵三萬出劍門，以楊安為元帥，作總指揮。
梁州刺史楊亮把守漢中，楊亮的兒子楊廣把守陽平關，這兩處關隘都比較險要。王統知道強攻不一定能成功，遂兵分兩路，分取兩關，但到了關下，並不攻關，而是日夜擂鼓喊殺。然後派人化裝成商客到兩關分別放風說另一關隘馬上就要被攻下了。楊亮於是親自率兵去救陽平關，楊廣則率兵去救漢中。兩軍相遇之後，這才知道上