晉懷帝被擄至匈奴帝國首都平陽的翌年（公元313年）元月，劉聰在光極殿舉行新年宴會。席間，身著青衣的懷帝，捧著酒壺到處走來走去為眾人倒酒。青衣是雜役穿的制服。晉朝遺臣庾珉以及王雋見到這般光景，悲從中來，不禁放聲大哭。懷帝臣服於匈奴後，被封為會稽公，並沒有理由要在宴會席上擔任雜役工作；但生性有嗜虐傾向的劉聰，卻故意如此侮辱懷帝，用以取悅自己。其後，劉聰將號泣的十餘名晉朝遺臣，連同懷帝一併斬殺。從這個時候起，他好像已經控制不住自己了。
懷帝被殺的消息傳來後，在長安的司馬鄴即帝位。司馬鄴是武帝司馬炎的孫子，父親是吳王司馬晏，也就是懷帝的侄兒。洛陽陷落，懷帝被擄至平陽後，司馬鄴就以皇太子身份坐鎮長安。
雖然司馬鄴才十四歲，卻在匆促完成男子成人冠禮儀式後即位，是為愍帝。愍帝以建興為元號，但是這一代只維持短短四年。在劉曜的領軍攻打下，愍帝投降後不久被殺。劉曜即帝位是兩年後（公元318年）的事。
晉王朝至此似乎已油盡燈枯，皇族先是於八王之亂期間彼此殘殺，後來又遭劉聰所創建的匈奴帝國攻打，司馬氏一族好像已全數滅絕了。
事實不然，還有一個皇族活著。
這個人是琅邪王司馬睿，他是宣帝司馬仲達的曾孫。永安元年（公元304年），他以左將軍身份在鄴，而他的親密朋友王導卻力勸他回領地琅邪。王導是東海王司馬越的參謀，因而能夠預測天下大亂即將來到。未料，成都王司馬穎卻在這個時候對各地關卡發出「貴人一律不得出關」的命令，琅邪王司馬睿於是在河陽被關卡官吏攔下。
這時候，從者宋典走了出來，一邊用鞭子掃開琅邪王，一邊笑道：
「嘿！舍長，官方禁止貴人出關，怎麼連你也攔了！哈！哈！哈！連你也算是貴人，這不是笑死人嗎？」
舍長就是學生宿舍舍監，地位很低。關卡官吏聽到這句話後，說：
「原來你是個舍監，快過去吧！」
「安宅之關」的戲碼就是據此而衍生的。
脫險後的琅邪王，先到洛陽，隨即帶著母親回琅邪，他後來遷居至建康（南京），與前述王導等人共同致力於開拓南方新天地。直到愍帝被殺的消息延至公元318年三月傳來，司馬睿才正式即位，是為元帝。
建都洛陽及長安的晉王朝，至愍帝時代已算滅亡，一般稱之為「西晉」。相對於此，於南方建康成立的元帝以後的時代，則被稱為「東晉」。也就是說，元帝乃東晉的創立者。
這是一個亡命政權。元帝以下的所有東晉幹部，全都是由北方流亡到江南的人。
——總有一天，我們一定要光復中原！
這是他們無日或忘的北伐夢。由於一心繫念北方，因此，對目前居住的江南之地並無多大關心，這個地方只是過路驛站而已。
原來就居住在此地的人們，對此一心態非常不滿。這裡是三國時代由孫氏家族開拓的吳地，而自從吳於公元280年被晉攻滅以來，此地出身的人，在政界始終遭到壓抑，這是亡國之臣的宿命。
如今，攻滅東吳的晉，於事隔三十多年之後，逃到他們所居住的地方來。
——我們非得向他們清算舊賬不可！
作為地主的他們有了這個想法，於是企圖逼迫亡命政權償還多年來所受的不平等待遇。然而此一企圖卻未能如願以償。
無論亡命至何處，也不管被稱為西晉或東晉，晉王朝畢竟有其獨特體制，也就是說，官職的晉陞一定要以門第家世為決定因素。雖是亡命政權，要職還是由北方來的人們佔據，地方上的人才依舊只有墊底的份，因此，不滿分子遍地皆是。換句話說，亡命的東晉政權，一開始就處在不安定的狀態之下。
家世低微的人想發跡，途徑只有兩條，其一是，不嫌職位卑微，尋覓到皇帝近邊伺候的差事，然後期盼得到賞識；其二是，在戰場上立下功勛。因此，在東晉朝廷中最充滿朝氣的，是伺候於天子身邊的雜役及下級職員，以及各地屯駐的軍人。
在東晉，門第排行第一的是琅邪王氏。輔佐元帝最為有力的王導，就是這一族的人。後來被推崇為「書聖」的王羲之，就是王導的侄子。
王導有一個名叫王敦的堂弟，這個人娶了武帝司馬炎的女兒。由於東晉元帝是武帝的侄子，因此，他這位妻子和皇帝為堂兄妹關係。所以，王敦不僅系出名門，與皇室的關係也非常親近。
王敦於東晉建國的同時，被任命為荊州刺史，並且居住於武昌。西晉時代，王敦也曾以揚州刺史身份掌握過地方軍權。東晉遂逐漸產生政治歸王導主導、軍事歸王敦及琅邪王氏兄弟掌管的態勢。
對皇帝而言，有力的家臣在即位之前是非常寶貴的，但是即位之後，這些人就有可能成為搖撼皇位的危險分子。
「必須趁早壓制琅邪王氏的勢力，不然，皇室定有後患。」
元帝親信劉隗就曾如此進言。
王氏一族中最為危險的，是身在武昌且有能力動員兵力的王敦。在建康精勵於政務的王導，雖然是個溫和型人物，但朝廷卻有鑒於他是王氏族人，因而對他頗為冷淡，只保留其驃騎將軍的稱號，儘可能地剝奪他的實權。
武昌的王敦敏感地察覺到建康的這個氣氛。每次看到地方軍政要員異動，與其說是為了應付外敵，用意毋寧在於牽制王敦。
王敦為此怏怏不樂。
東晉創建第四年的永昌元年（公元322年），王敦率領大軍，由武昌向建康進擊。
——討伐君側之奸！
這是他出兵的名目。
元帝近臣由於抵擋不住王敦的軍隊，因而准許他進入首都。王敦被任命為丞相後，當然立即著手肅清反對派，許多人因此被殺，劉隗則由建康逃出，前往投靠北方羯族的石勒。王敦開始在首都建康呼風喚雨，沒想到根據地武昌卻在他不在時發生造反情事。他於是立刻趕回武昌，忙著鎮壓造反軍。
新王朝甫建之初，應該上下一體，為鞏固國家基礎而努力，想不到一切卻如此混亂。權臣相爭，地方人民不擁護政府——在這個情況下，東晉怎麼會有前途呢？元帝遂因憂憤而病倒，於這一年的十一月歿故，享年四十七歲。皇太子司馬紹即位，是為東晉明帝。
如前所述，這是中國周邊發生民族大遷徙的時期。民族大遷徙的影響及於各個層面，這個現象，在東晉皇室內也能看到。東晉第二代皇帝明帝司馬紹的母親荀氏就是鮮卑族人。明帝的鬍子是黃色的，據說，其人頗有鮮卑族特性。雖然如此，明帝是聰敏且富於決斷力的明君，可惜在位僅僅三年就去世，這對東晉而言，不可不謂一大憾事。
明帝幼年時期，有一個著名的故事。那時候的他當然身在琅邪。一天，使者從長安來到，父親元帝於是問年幼的兒子明帝道：
「長安派使者來，長安在很遠的地方，你知道長安和太陽哪個遠嗎？」
「應該是長安比較近。」明帝回答。
「為什麼呢？」
「因為，長安能派使者來，可是，我從來沒聽過有使者從太陽那裡來啊！」
「說得也是……」
元帝對兒子的回答十分滿意。
隔日舉行宴會時，元帝為誇示兒子聰明，又以昨日同樣的問題詢問明帝。結果，年幼的明帝並沒有做出相同的回答。
「應該是太陽比較近吧！」
明帝做出相反的回答。
「為什麼你的回答和昨日不同呢？」
元帝以詰責的口氣問道。
「因為我只要一抬頭就看得到太陽，可是，再怎麼踮腳也看不到長安呀！（舉頭見日，不見長安。）」
據說，明帝若無其事地這樣回答。
讀者不難由前述故事知道，明帝是個非常機智的混血皇帝。可惜的是，他以二十七歲的英年去世。明帝死後，由年僅五歲的皇太子繼位，是為成帝。
所幸，正在進行禪讓工作的王敦，先明帝一步而死。東晉應該為這一點額手稱慶才對。
明帝皇后庾氏的娘家有亮、冰、翼三兄弟，都是有能之士，成帝治世的後半十年期間，國政全由庾氏三兄弟負責運轉。這期間，曾經有過於壽春擔任北方戒備任務的蘇峻及祖約等人，因申請增加戰爭經費未獲准而行造反之事，結果由庾亮商請在荊州的陶侃出兵而得以敉平兵變。
一旦出現強大的實力者，就促使另一個實力強大者將之推倒——這是從創立時期就不甚安定且十分脆弱的東晉政權，用以保存命脈的方法。
另外，北方的匈奴勢力也一分為二，這一點，也有利於脆弱的東晉。
雖然劉淵以「漢」為自己的匈奴帝國國號，但人們對這個國號似乎頗有抗拒感，遂於劉曜的時代改為「趙」。
劉淵的兒子劉聰死後，由其堂弟劉曜成為後繼者，而匈奴帝國內部最大的實力人物——