兩漢以至魏晉，為了便於控制，也為了補充兵源和勞動人手，朝廷經常通過強制和招引，使邊遠地區的少數族人相繼內遷。西晉時，西自今青海、甘肅，東經寧夏、內蒙古、陝西、山西、河北以至遼寧，南到河南，都有少數族人與漢人錯居雜處。其中除遼河流域的鮮卑和青海、甘肅的氐、羌外，大都由原住地遷來。早在晉初，由於晉政權和地主豪強的壓迫和剝削，也由於少數族的權貴謀求恢複他們在本族中已失去的權位和滿足他們的掠奪貪慾，以民族形式組織起來的暴動甚至戰爭已不斷發生。到惠帝時（290～306）皇室間的奪權鬥爭由宮廷擴散到地方，混戰使人民飽受痛苦，也削弱了晉政權的統治力量。惠帝晚年，階級矛盾和民族矛盾一齊激化，西晉皇朝崩潰。從304年巴賨李雄和匈奴劉淵分別建立政權開始，到439年魏滅北涼止，一百三十六年間，在中國北部和四川先後建立了習慣上稱之為十六國（其實不止十六國）的各族割據政權。其中除四個漢族政權（西涼、北燕、前涼、冉魏）外，建立這些政權的統治者為匈奴（包括匈奴盧水胡和匈奴鐵弗部）、羯、鮮卑、氐、羌五族，史稱「五胡」。
以383年東晉和前秦的淝水之戰為界，十六國的建立可分前後二期。前期的政權有：成漢、漢和前趙、後趙、前燕、前秦、前涼（還有鮮卑拓跋部的代和冉閔的魏不在十六國內）。後期的政權有：後秦、後燕、南燕、北燕、後涼、南涼、西涼、北涼、西秦、夏（此外還有西燕不在十六國內）。