直到公元263年魏滅蜀，公元265年司馬炎廢掉魏元帝建立晉王朝，並於公元280年滅吳，才取得統一，歷史上稱為西晉。在經歷短暫的安定和平的局面之後，因西晉統治集團的腐朽引起激烈爭奪統治權的兇殘內戰，史稱「八王之亂」。不久又出現了五胡十六國的紛擾局面，西晉最後兩個皇帝都被匈奴統治者劉聰殺掉。當時南方比較安定，南逃的貴族擁立鎮守建鄴(原吳都建業改稱)的鎮東大將軍司馬睿〔rui瑞〕為帝，歷史上稱為東晉。
當時北方仍處在五胡紛擾、相互攻戰的局面下。所謂五胡，是指匈奴、鮮卑、羯〔jie傑〕、氐、羌五族，他們先後曾建立過16個國家〔也包括在今四川的成(漢)〕，簡言之為一成、一夏、二趙、三秦、四燕、五涼。實際也有漢人建立的國家，例如前涼和北燕等，國家的數目也不止16個，還應包括代、冉魏和西燕等。
這些國家歷時長短不一，所控制的範圍也大小不同，並常有變化，公元383年淝水之戰以前，前秦不僅統一北方，並且佔有今四川，控制了西域。認為長江並不難渡，「投鞭即可斷流」，所以悍然發動一場企圖滅晉的戰爭，結果卻大敗而歸，北方再一次分裂。東晉收復一部分地方，但有的後來卻又丟失了。
《晉書·地理志》缺東晉郡縣數字，據《中國歷史地圖集》所記，東晉太元七年(公元382年)有揚、徐、豫、荊、江、廣、交、寧等州，後又增加益、梁等州，因為南北之間的拉鋸戰，邊界常有變動，也很難詳計。北方的前秦疆域，在淝水之戰以前曾劃分為22州(清代洪亮吉統計)。面積還小於今山東省的南燕國，在其盛時也曾劃分為青、並、兗、徐、幽五州。州郡的濫設，在其他一些國家中也都如此。九州中的一些州名，如徐州、兗州等都可舉出很多處，地名的混亂情況是前所罕見的。