劉裕前腳剛走，後腳赫連勃勃就帶大兵來攻長安了。赫連勃勃就是劉勃勃，他稱王后改姓「赫連」，「赫連」的意思是上天之子，與天相連。自己的同宗都改姓為「鐵伐」，意思是：剛銳如鐵，皆堪伐人。赫連勃勃在國力強盛後，於公元413年3月，命令叱干阿利為工程總指揮，在朔方水北、黑水之南（內蒙古烏審旗南白城子）築城作為臨時都城。阿利雖然對搞工程，搞設計很在行，但這個人脾氣火暴，性情殘忍。他命令築城工匠用蒸熟的土築城，築完後檢查，如果用錐子能扎入一寸，就殺掉築城者，並把屍體也築到城牆中去。因此，城牆築得非常堅固，硬得可以磨礪刀劍。城築好後，赫連勃勃自稱「聯方統一天下，郡臨萬邦」，故取名「統萬」。統萬城高十仞，基厚三十步，上廣十步，宮牆高五仞，城內台榭高大，飛閣相連。城開四門，東為「招魏」，南為「朝宋」，西為「服涼」，北為「平朔」。如此取名，表明赫連勃勃有統一天下的野心。但統萬城並非萬年不克之城，在赫連勃勃死後的第二年，也就是宋元嘉二年（425），統萬城便被北魏拓跋燾攻佔。
赫連勃勃還讓叱干阿利監造兵器，結果造兵器的工匠也倒了霉。叱干阿利規定：弓箭射不透鎧甲就殺死制弓人，弓箭能射透鎧甲則殺死制甲人。等兵器造好後，又死了一大批造兵器的工匠。
後秦和東晉交戰的時候，後秦軍最終不得不從安定撤兵回援長安，赫連勃勃趁機佔據安定，得到了秦嶺以北的大片土地。等劉裕帶大兵東歸之後，他便兵分三路南下進攻長安。一路以太子赫連為前鋒都督，率騎兵二萬進攻長安，自己親率八萬大軍在後。一路由三子赫連昌向東阻住晉兵從潼關西援的路；第三路由王買德向南進攻青泥，阻斷晉軍從川蜀北援的路。
長安雖以劉義真為名義上的主公，其實權力掌握在王修和王鎮惡手裡。兩個人派沈田子、傅弘之北上拒敵。沈田子認為胡夏兵多將廣，其野戰能力也很強，不能在外決戰，便退守劉回堡。王鎮惡得到這個消息後大罵沈田子是膽小鬼，並親自帶了一百名親兵，去劉回堡催戰。沈田子本來就對王鎮惡很有看法，又聽說王鎮惡大罵自己膽小怯戰，並要帶人來監督自己，非常生氣，便有了殺王鎮惡之心。王鎮惡剛來到劉回堡，便被沈田子派族弟沈敬仁埋下的伏兵殺死。沈田子這一瘋狂的舉動把傅弘之驚訝壞了，他問沈田子：「你怎麼把總司令給殺了！」沈田子毫不在乎地說：「王鎮惡要謀反，我奉太尉（指劉裕）密令殺之。」傅弘之和沈田子在一起共事很久了，他知道沈田子是個愣頭青，而且與王鎮惡一直相處不睦，他懷疑是沈田子報私仇，於是道：「既然王鎮惡謀反，那他是死有餘辜。但畢竟殺死王鎮惡不是一件小事，我和你一起回長安解釋一下這件事，這樣比較好。」
沈田子一口答應，讓沈敬仁守城，自己和傅弘之趕回長安。傅弘之先派親信趕到長安把這件事報告給王修。王修急忙派兵等候在城內，等沈田子一入城，就把他捉了起來。沈田子強辯自己是奉了劉裕的密令殺死王鎮惡。王修說：「你把密令拿出來給我看。」沈田子當然拿不出來，於是被王修斬首。傅弘之持劉義真的命令回到劉回堡，很輕鬆地就奪了軍權，斬了沈敬仁，然後率眾迎戰胡夏太子赫連的軍隊。兩軍在池陽進行了一場大戰，赫連大敗後撤，逃至寡婦渡又被傅弘之追上，又一次大敗。赫連兩萬人馬折去了一半，只好退兵。
晉軍前線大捷的時候，長安城內發生了內亂。因為王修對十二歲的劉義真管教很嚴，喜歡玩耍的劉義真對王修一直很不滿。出了王鎮惡這檔子事後，劉義真手下那幫陪他玩耍的寵臣又說王修要謀反。劉義真也不管真假，反正他很討厭王修，便以這個理由把王修給殺了。殺死王修後，軍政大事就都得由劉義真一個人來定奪了。劉義真於是把所有的軍隊全部調到長安城中，他以為兵力集中在長安城內，這樣就非常保險了。但結果是正準備撤退的胡夏軍隊又捲土重來，把長安圍得如鐵桶一般。圍好之後並不攻城，而是分兵守住險要，斷去長安的糧道和援軍。劉義真的十多萬大軍和老百姓在長安城內待了半年之後，就吃光了所有的糧食。劉義真也不敢出戰，便派人向父親劉裕求救。
劉裕回到建康後，被封為相國、宋公，加九錫禮，儀服禮儀和皇帝一樣，就差穿龍袍坐皇位了。但劉裕仍然沒有打算馬上當皇帝。不久，他接到長安的情報，王鎮惡、沈田子、王修皆死於內亂，而十幾萬晉軍全被圍困在長安城中，糧食也吃光了。劉裕大驚失色，急忙派輔國將軍蒯恩趕往長安，接應劉義真東歸；又任命相國右司馬朱齡石為都督關中諸軍事、右將軍、雍州刺史，也一同前去，代守長安。
朱齡石和蒯恩趕到長安，催促劉義真出城。劉義真在他手下那幫寵臣的勸說下，離開長安前在城內大肆搶劫，雖然名義上是不給胡夏留下東西，但受害最深的還是老百姓。劉義真帶著搶來的東西，出城緩緩東行。
胡夏知道晉軍畢竟擁有十多萬兵力，並沒有敢正面與晉軍發生衝突，而是以三萬騎兵在後襲擾。傅弘之勸說劉義真放棄這些搶來的東西，輕裝而行，但劉義真捨不得。於是晉軍只能且戰且退，還要保護財物，十分疲憊。退到青泥北的時候，胡夏的王買德率兩萬騎兵殺到，赫連昌又率三萬騎兵從潼關趕來。胡夏的軍隊三路夾擊，其中兩路又是生力軍。而晉兵早已疲憊不堪，明顯處於劣勢。傅弘之和蒯恩與胡夏軍隊苦戰了七八天，最終兵敗被俘。劉義真這一次倒是很堅定地放棄了一切財物，什麼也沒敢要，帶著親兵拚命逃竄，竟然逃了出去，連身邊的親兵也都被他甩掉了，只剩下他一個人。不久，中兵參軍段宏帶著十幾騎找到劉義真。一行人翻山越嶺總算逃回東晉。
赫連勃勃勸降傅弘之不成，把他剝光衣服綁在屋外，稱什麼時候他願意降了，再把他放回來。時值農曆十一月，外面正下著雪，傅弘之在外大罵不止，一直到被凍死。其他被俘的晉軍全部被赫連勃勃下令殺死，晉軍士兵的人頭堆成京觀（古代為炫耀武功，聚集敵屍，封土而成的高冢），又名為「髑髏台」。
因為劉義真走的時候擄掠長安，百姓深恨晉軍，到了晚上便奪城門迎胡夏軍。朱齡石雖然挫敗了這起奪門事件，但從此事中他感覺到長安不可守，便焚毀長安宮殿，退出長安。途中被赫連昌包圍，朱齡石和他的弟弟朱超石及全軍全部戰死。
赫連勃勃進入長安後自稱皇帝。大家都建議赫連勃勃遷都長安，赫連勃勃認為北魏才是他最大的隱患，如果以東北部的統萬城為都，可遏制北魏西進。於是命太子赫連守長安，自己帶大軍返回統萬城。
再說劉裕得知青泥大敗，關中盡失，不由大慟，登城牆而北望，痛哭流涕。不久劉義真回來，劉裕降劉義真為建威將軍、司州刺史，接著又打算北伐胡夏。但由於東晉當年曾發生一次大面積的水災，百姓困餓，盜賊蜂起，國力比較匱乏，加之胡夏的赫連勃勃與後秦的姚泓不可同日而語，前者是人傑，後者為狗熊，北伐的勝算並不是很大，劉裕最終放棄了北伐。
本想再多建一些功業的劉裕這時候基本上沒什麼大事可幹了，而且他可能也感覺到自己時日不多，於是就加緊了代晉建宋稱帝的步伐。他稱帝的第一步是算命，看自己什麼時候稱帝最合適。算命的結果是「昌明之後尚有二帝」。
昌明就是司馬曜，昌明是他的字。這句讖語的意思是：「東晉在司馬曜死後，還應當有兩個皇帝才會結束。」劉裕很相信這個，於是就派中書侍郎王韶之把吃得香、睡得著、沒病沒災、成天樂呵呵的傻皇帝司馬德宗給弄死。王韶之弄死司馬德宗的時候，還費了一番工夫，因為司馬德宗的弟弟司馬德文每天陪在他身邊侍候飲食起居，從不離開。王韶之等了好多天也沒找到下手的機會，到了十二月戊寅這天，司馬德文正好生病了，出宮休養治病。王韶之趁司馬德文不在，就帶人把司馬德宗勒死。司馬德宗死後，劉裕又立司馬德文即皇帝位。
司馬德文雖然知道自己的哥哥是被劉裕害死的，但也沒有辦法。其實就是當不當皇帝這件事，都不是他說了算的。兩年後，在劉裕的再一次操縱和導演下，百官一致上書要求司馬德文禪位。
司馬德文雖然心中痛楚，卻不得不裝作很高興的樣子說道：「其實在桓玄篡位建梁朝後，晉朝就失掉了天下。多虧宋王劉裕又恢複晉朝，使晉朝又得以延續了近20年。今日禪位，我非常願意。」欣然提筆寫就讓位詔書，然後帶著自己的家屬走出了皇宮，把這個充滿陰謀與慾望的地方，讓給了劉裕。司馬德文被劉裕封為零陵王，遷居秣陵縣城（今湖北省荊門縣），由冠軍將軍劉遵考帶兵監管。公元420年6月，東晉滅亡。自晉元帝創立江東，到晉恭帝禪位於宋，東晉共歷十一主，一百零四年；東西兩晉合計共歷十五主，前後一百五十六年。
劉裕於當月稱帝建宋朝，追尊其父劉翹為孝穆皇帝，生母趙氏為孝穆皇后；尊奉繼母蕭氏為皇太后；立劉義符為皇太子；以司空劉道憐為太尉，封長沙王；追