劉裕，字德輿，小名寄奴，原籍彭城（今江蘇徐州市），史書稱其為漢高祖劉邦之弟、楚元王劉交之後。劉裕生於晉哀帝興寧元年（公元363年）三月，早年喪父，家境貧寒。年輕的劉裕，曾在新洲（今鎮江市西，長江中小洲）伐荻，又曾揮汗躬耕于田野，上山砍柴，下澤捕魚，備嘗生活之艱辛。
劉裕的飛黃騰達，當追溯至元興元年（公元402年）發生的一場大動亂。這年，朝廷以尚書令司馬元顯為驃騎大將軍、征討大都督、都督十八州諸軍事、加黃鉞，以劉牢之為前鋒都督，發軍討伐荊州都督、桓溫之子桓玄。但由於司馬元顯怯戰，劉牢之被收買，桓玄揮師進入建康，從此總攬朝政大權，成了東晉的主宰，而劉牢之這一北府名將，最終也沒能逃出桓玄的毒手。
劉牢之死後，桓玄又先後殺害北府將領吳興太守高素、輔國將軍竺謙之、高平相竺郎之、輔國將軍劉襲、彭城內史劉秀武、冀州刺史孫無終等。一時間，北府將領人人自危，惶惶不安。劉裕卻鎮定自若，他知道自己還不夠格，桓玄不但不會殺他，反而會起用他。果然不出所料，桓玄任命從兄桓修為南徐、南袞二州刺史，鎮守北府（京口）以後，桓修就以劉裕為中軍參軍。劉裕後因擊破盧循之功，又加官彭城內史，深得桓氏倚重。他不露聲色，表面上對桓氏忠心耿耿，暗地裡卻加緊活動，團結了一大批北府軍中下級軍官，時刻準備舉旗倒桓。
桓玄進入京師之初，罷黜奸佞，提拔賢才，故京師人人欣然，認為從此可平安度日。好景不長，桓玄很快露出了兇相，奢豪縱逸，政令無常，朋黨互起，凌侮朝廷，眾心失望。
元光二年（公元403年）九月，桓玄加快了篡位的步伐，自封楚王，加九錫，離皇位只有一步之遙了。十二月，桓玄正式即皇帝位。劉裕隨桓修入朝慶賀。桓玄一見劉裕，便覺他氣度不凡，對司徒王謐說：「劉裕風骨不俗，看來是個人傑。」以後每當游集，都對劉裕另眼相看，引接殷勤，贈賜厚禮。劉裕見桓玄如此著重他，心中甚覺不安，但表面上一點不露，依然不卑不亢，謙恭有禮與其周旋。桓玄的皇后劉氏對劉裕很不放心，私下勸桓玄：「我見劉裕，龍行虎步，風度不凡，恐終不能為人下，不如早點除掉他。」桓玄答道：「我剛剛平盪中原，眼下正是用人之際，非劉裕無可用者。等關、河平定後，再作打算吧。」
元興三年（公元404年）正月，劉裕與何無忌同舟返回京口。一路上，二人密謀回京口後立即分頭聯絡各路反桓之士，以恢複晉室為名，興兵進京，推倒桓玄。
元興三年二月，劉裕與何無忌、檀憑之、弟弟劉毅等百餘人在京口起兵。清早，何無忌身穿傳詔服，詐稱是朝廷敕使，導引眾人一齊沖入城中，高聲大呼，吏士驚慌四散，無人敢反抗。桓修毫無防備，當即被斬首。劉裕看著桓修的首級，放聲慟哭，下令厚加殯殮。忽然軍吏前來報告，桓修司馬刁弘得知城中起事，率文武佐吏前來攻城，現已到了城下。劉裕當即登城，高聲對城下講：「郭江州已在潯陽奉天子反正，我等受密詔，誅除逆黨，桓玄今日想必已經梟首於大航了！諸君難道不是大晉之臣嗎？今日前來，想幹什麼？」因晉安帝司馬德宗被逼退位後，居於潯陽，所以刁弘等人聽了劉裕的話，也就信以為真，引兵而退。
桓玄聞知劉裕等舉兵反，憂懼無計。有人見他這樣害怕，很不理解，對他說：「劉裕等人乃烏合之眾，勢力微弱，必然不會成功，陛下為何如此憂慮？」桓玄搖搖頭，嘆道：「劉裕足為一世之雄；劉毅家無斗糧之儲，而賭起錢來卻一擲百萬；何無忌酷似其舅劉牢之。這些人共舉大事，怎敢說他不會成功！」說完，仍愁眉苦臉，心神不定。
三月，劉裕率軍與桓玄手下的驍將吳甫之在江乘相遇。劉裕手執長刀，大呼一聲，率先沖入敵陣，士兵見狀，人人奮勇，無不以一當十，只一戰便斬吳甫之，大獲全勝。劉裕乘勝進擊，遇到了右衛將軍皇甫敷的阻擊。劉裕與檀憑之各帶一支人馬與敵決戰。檀憑之戰敗陣亡，只剩劉裕孤軍作戰，被敵兵層層包圍，只得背倚一棵大樹與敵廝殺。面對強敵，他面無懼色，越戰越勇。皇甫敷高聲呼喊劉裕：「汝欲怎樣死法！今日是死定了！」劉裕怒目圓睜，大聲叱罵，皇甫敷挺戟猛刺，慌亂中竟未刺中。正在危急時刻，劉裕的援軍趕到，一箭射中皇甫敷的面額，皇甫敷應弦倒地。劉裕挺刀向前，只見皇甫敷掙扎說道：「你是上天註定當皇帝的，我死後只求你能照顧我的子孫。」劉裕點頭應允，斬其首，又對其後代厚加撫慰。
劉裕這兩仗打出了威風。桓玄聽到兩將戰死的消息大驚，一面繼續派揚州刺史桓謙出戰，一面悄悄預備舟船，準備一旦形勢緊急就溜之大吉。
桓謙率大軍迎戰劉裕，無奈部下多為北府人，都畏服劉裕，沒有鬥志。而劉裕兵將鬥志正旺，劉裕身先士卒，將士皆殊死而戰，喊殺之聲驚天動地，鼓噪之音震動京邑，桓謙兵敗如山倒，潰不成軍。桓玄聞訊，率親信數千人，詐稱出戰，坐船逃遁而去。劉裕率軍乘勝進入建康城，派劉毅、何無忌追擊桓玄，自己坐鎮京師。
劉裕進入建康之初，面對百廢待興的局面，應付自如，指揮若定。他以身作則，嚴以律己，因而政紀肅然，令行禁止。主簿劉穆之鼎力協助，入京後，凡重大處分劉裕都委託於他，他也盡心竭力輔佐劉裕，雖時間倉促，但事事得體，件件有方。又發布命令糾正桓玄時的朝政弊病，不過十日，建康風俗頓改，民心安定。
四月，劉毅等在崢嶸洲（今湖北鄂城縣）擊敗桓玄軍，桓玄敗退江陵，不久被殺。次年三月，白痴皇帝司馬德宗被迎回建康，重登皇帝寶座，四月，劉裕以南徐、南青二州刺史的身份領北府兵回鎮京口，後解南青州刺史，加領南兗州刺史，北府舊兵全掌於劉裕一人手中。
義熙四年（公元408年）正月，尚書右丞皮沈來到京口，首先面晤劉穆之，稱朝中計議欲以中領軍謝混為揚州刺史，還有人建議劉裕在丹徒領揚州刺史一職，朝事實際上交給尚書僕射孟昶處理，朝廷命他來徵求劉裕的意見。劉穆之一面聽著，心知按功名與實力，本應由劉裕入京繼任揚州刺史，而如今卻提出了這麼兩條建議來，分明是劉毅等人不願讓劉裕入京輔政而定的計謀！想到這裡，他對皮沈說要上廁所，就急急走了。他匆匆寫了一張紙條：「皮沈始至，其言不可從。」讓人交給劉裕。劉裕正在與皮沈談話，從左右手裡接過條子看後，就暫令皮沈外出，將劉穆之召進，問：「卿講皮沈之言不可從，是什麼意思呢？」劉穆之便將自己的想法一一陳述：「您興復晉室皇祚，勛高萬古。既有大功，便有大位。仁大勛高，難以持久，您觀今之形勢，豈能居謙自弱，甘心作一守藩之將呢？劉毅、孟昶諸公雖然當初一時推功，卻並非宿定的臣主之分。您與他們勢均力敵，最終必會互相吞併。揚州為朝廷根本，不可交給別人。一日失去權柄，就再難得了。」劉裕聽了這一番話，心動了，他何嘗不想入京輔政，掌握朝廷大權呢！只是自己位高權重，若伸手要揚州刺史一職，怕引起朝野疑心，影響自己的形象。劉穆之好像看出了他的心思，繼續說道：「您功高勛重，不能直接要求任揚州刺史，不然，朝廷疑畏交加，異端互起，必引出大禍。現今朝議如此，可先暫且應酬一下，最好的辦法是您先回京師共議此事，您一旦入京，他們決不敢越過您而另授他人了。」劉裕聽了連連點頭。
劉裕進京後，朝廷果然以他為揚州刺史，並授錄尚書事之職，總掌政事。義熙五年（公元409年）二月，南燕主慕容超派軍攻破東晉宿豫（今江蘇宿遷縣），不久，南燕又侵擾濟南。南燕的入侵引起了東晉人民的強烈反響，要求討伐南燕的呼聲甚高。劉裕經過分析權衡，認為征伐南燕一來可以滿足人民的抗敵要求，二來如果征伐成功，自己的功業聲望就可以完全壓倒劉毅等人，因此立即下令北伐南燕。
劉裕北伐南燕的打算立刻遭到朝廷一些人的反對。豫州刺史劉毅竭力阻止劉裕親自帶兵北伐，說宰相遠出，易傾動國家的根本。劉裕不聽，決意親自出征。四月，劉裕率水軍自建康出發，沿淮河、泗水到達下邳（今江蘇睢寧縣西北），又沿陸路出發，六月，進圍廣固。慕容超慌忙向後秦求救，姚興不敢輕舉妄動。劉裕精神抖擻，指揮大軍全力猛攻，次年二月，攻下廣固，滅南燕，生擒慕容超，送至建康斬首。
這次北伐南燕的勝利，收復了青、袞廣大地區，朝廷內外無不讚頌劉裕的功德。劉裕的功業，此時已經超過祖逖、桓溫，他的聲望一下子大大提高，朝中再也無人能與他相抗衡了。
此時，從廣東起兵的農民起義軍盧循、徐道覆已攻下長沙、巴陵（今湖南嶽陽市）、南康（今江西贛州市）等城，兵鋒直指建康。江州刺史何無忌自潯陽（今江西九江市）南下，抵禦徐道覆，戰死於豫章（今江西南昌市）。劉裕聽到這一消息，大驚失色，慌忙班師南歸，把大隊人馬甩在後面，只帶了幾十人，於四月間趕到建康。
劉毅聽說盧循、