由於中原戰亂頻仍，到處都是屠殺，百姓四處奔逃，尋找沒有戰亂的地方。蒲洪的部隊駐紮在今天河南省黃河北部的部分地區，大約相當於今天的鶴壁市和安陽市。這個地方是離戰亂最近，卻最安全的地方。於是百姓紛紛投奔，蒲洪趁機徵召軍隊，很快擁有三十萬士兵。蒲洪覺得自己已經有足夠的勢力與其他軍閥抗衡了，便自稱三秦王，宣布獨立。在稱王之前，蒲洪算了一卦，卦象說要改姓為「苻」，才能做王做得長久。於是蒲洪便改做了苻洪，蒲姓這一宗族的全族也都改稱苻姓。
這時候趙國的王朗和麻秋在洛陽發生火拚，兩個人本來是戰友，但冉閔頒布「殺胡令」後，王朗為胡，麻秋為漢。麻秋支持冉閔，把王朗的軍隊痛打了一頓，殺了八千羯胡士兵。王朗帶著殘部逃到襄國，投奔了石祗。麻秋則去投奔冉閔。但兵過枋頭的時候遭到苻洪的伏擊，麻秋不敵，只得投降。苻洪欣賞麻秋的軍事才幹，任命他為軍師，並且時常對麻秋提到他一統天下的大志。麻秋本來心在冉魏，並不是真心降秦，表面上奉承苻洪，暗地裡卻利用一次請苻洪吃飯的機會，下毒毒死了苻洪。
苻洪死後，他的第三個兒子苻健秘不舉哀，親率五千精兵去襲麻秋。麻秋已經準備好起義，就等苻洪的死訊了，左等右等都沒有苻洪是死是活的消息，突然苻健殺到，直入中軍，麻秋不防，束手被擒。苻健在苻洪靈前殺麻秋為父祭靈，為父發喪。因為符洪臨死前留下遺言說，謀取中原的英雄太多，秦國要平定中原不太可能，應當向西入關到陝西發展根據地。所以喪事之後，大家都請求向西入關。苻健卻道：「從今不得再言入關之事，有再言者斬！」人們都很驚訝，不知道苻健打的是什麼主意。苻健又把三秦王的王號去掉，只自稱將軍，並在枋頭修起宮室，招集老百姓種田發展生產，大有在豫北長住下去的意思。
雍州刺史杜洪早就知道苻洪有入關之心，派重兵把守潼關及黃河各處渡口和險要。苻健繼位後，杜洪仍是十分緊張，但聽說苻健在豫北有紮根之勢，也覺得有些奇怪，便派使者去試探苻健說：「你們的老家本來就在陝甘，我願意把三秦之地讓給你。」苻健說，我不去，那裡太窮了。又領著使者到處逛了一圈說，你看我這裡多富饒，吃得好穿得好，我幹嗎要去關中受苦。雖然我們苻家的老家在關西，可是離開那裡很久了，我已經習慣這裡的生活了。這樣吧，咱們結個互不侵犯條約，和平共處，豈不更好？
使者回去後，說苻健在豫北玩得很開心，吃好的喝好的，每天跳舞唱歌玩遊戲，還要和咱們簽互不侵犯條約，看來沒打算回關中。杜洪很高興，對苻健也就不提防了。
到了來年八月，苻健收了糧食，立刻派弟弟苻雄和大哥的兒子苻菁分別帶兵，迅速從潼關和軹關入秦。因為速度太快，苻菁渡過蒲阪津，直插到潼關的後方，杜洪竟然也沒有發覺，只是發現了苻雄的軍隊，並派司馬張琚在潼關迎敵。張琚與苻雄交戰，卻不防被苻菁抄了後路，大敗而歸。二軍合兵一處，向長安進發。苻健也親率一支部隊趕來。
三軍共有部隊十餘萬，來到長安城下。杜洪也親率十萬大軍出城迎敵，雙方互攻了三天，苻健大勝，乘勢殺入長安。杜洪與張琚率敗兵逃奔司竹（今西安市周至縣司竹鎮）。
苻健進入長安後，立刻廢除後趙的一切亂七八糟的刑法，免去一切重稅和徭役，重新制定法令，並且搜羅人才，提倡節儉，三秦風氣為之一變，百姓的負擔比以前也大大減少，國力漸漸得到恢複。苻健遂於晉永和七年（351）正月丙辰稱天王，國號為大秦，史稱前秦。第二年，張琚殺杜洪自立。苻健又令苻雄攻破司竹，斬殺張琚。
中原這邊，仍是趙、魏、燕、晉四國攻來攻去，打成一團。
公元350年十一月，冉閔派十萬大軍進攻襄國。石祗和石琨堅守城池。魏軍猛攻四個多月不能破城，冉閔乾脆繞著襄國城築了一圈石牆，然後在石牆外開墾農田，蓋起房子，準備長期住下去了。
石祗一看魏軍這麼干，害了怕，畢竟城裡面種糧不像城外那麼方便，一困三年五載的還不都餓死？於是把自己的皇帝號去掉，改稱趙王，派太尉張舉去薊城向燕國請求援兵，並且答應事成之後送傳國玉璽，尊燕王為帝；又命令中軍將軍張春去灄頭，請姚弋仲來援。
兩邊的求援都很順利。姚弋仲念石虎舊情，派世子姚襄率三萬鐵騎來救。燕王慕容俊聽說只要和後趙聯兵滅了冉魏，後趙就向自己稱藩做臣，也派御難將軍悅綰，率精兵五萬去救襄國。
冉閔聽說兩路援軍向自己殺過來，知道硬打的話恐怕勝負難料，於是也實行外交策略，派從事中郎常煒去燕國求和。
常煒求和的理由是燕趙兩國是世仇，打了幾十年仗了，如今冉魏替燕國滅趙國，燕國何必要救這個昔日的仇人。
燕王直接打開天窗說亮話：「人家趙國去帝號獻玉璽，尊我為帝，願為臣藩；你冉魏已經自稱皇帝，擺明了是打算一統天下。我將來還得向你稱臣，你說我能幫誰？」
常煒說：「你想想鄴城才是趙國首都，玉璽明明是在我們鄴城呢，怎麼會在襄城？再說了，商湯可以放逐夏桀，武王可以討伐商紂，曹孟德可以代漢自立，建立曹魏。我們主公當皇上惹著誰了？為什麼不能當皇帝？」說得燕王啞口無言。
常煒雖然給魏國長了面子，但並沒達到使燕國罷兵的目的。燕軍和姚軍一齊去攻魏軍，趙國的軍隊也出城裡應外合，魏軍大敗，十萬人只剩下一兩萬，狼狽逃回鄴城。
姚襄完成了任務帶兵回到灄頭，悅綰則還有一個任務沒完成，就是向石祗要傳國玉璽。石祗裝糊塗道：「我說過給你們燕國玉璽么？應當沒有吧。玉璽又不在我們這裡，在鄴城呢，我如何給你？這麼辦吧，你們自己去鄴城取吧。」
悅綰回報燕王，燕王才知受騙，那個趙國使臣張舉還在燕國當人質呢，當然立刻就被砍了祭旗，然後把常煒放了。
石祗打了大勝仗，又派大將劉顯率八萬大軍反過來攻打鄴城。冉閔剛剛打了敗仗，手裡頭也沒多少兵了，遂把城中所有的將士兩萬餘人集合起來，冉閔登高悲壯地說道：「我們剛打了敗仗，羯兵又來緊逼。生死存亡，在此一戰。如若不勝，我漢人將在中原亡種。」
眾將軍群情激奮，振臂高呼：「願死戰！願死戰！」聲音直達九霄。
冉閔遂帶所有軍隊出城，派大將軍董閏率三千弓弩手埋伏於左翼，車騎將軍張溫率三千弓弩手伏於右翼，自率三千騎兵為敢死隊，其餘軍隊佈於陣後。
劉顯帶八萬軍來到後，見魏軍並不守城，而是出城列陣，又沒有多少兵，笑冉閔自己出來找死，帶八萬大軍鼓噪而進。魏軍既不退也不進，一直等到趙軍攻到百步的時候，突然梆子響成一片，董閏、張溫各率弓弩手奔出來齊射，箭如飛蝗驟雨一般，登時射倒劉顯前軍數千人，劉顯的前軍便往後退，後軍卻往前擁，人擠人，人撞人，亂成一鍋粥。冉閔立刻率三千敢死騎兵沖入敵陣，左殺右砍，以一當十。劉顯的軍隊被殺得哭爹喊娘，如潮水一般向北退去。魏軍兩萬兵馬一路追殺，劉顯一敗再敗，被冉閔逼得實在沒有辦法了，只好投降。冉閔命劉顯繼續帶著殘兵，假裝敗回襄國，然後發動兵變。
劉顯依計回襄國，兵變殺死石祗及太宰趙庶等大臣。石琨則帶著全家逃走。東晉永和七年四月，後趙滅亡。後趙雖亡，各州郡的將帥還都統率著軍馬，這些人大多為羯族，當然不能投降見胡人就殺的冉閔，所以北邊的就投奔燕國，西邊的就投降大秦，南邊的則歸附東晉。其中姚弋仲投降東晉，於第二年病亡，其子帶著父親的棺槨棄山東之地來到東晉。石琨也攜妻兒家小投奔了東晉，可他忘了石家和晉國有著天大的仇恨，石勒和石虎就是滅亡西晉的元兇禍首。東晉如何能容得下他，遂把石琨全家殺死。石虎通過自己堅持不懈的努力，真正做到了斷子絕孫。
本來冉魏可以有迅速壯大的機會，卻由於他的民族政策，失去了大批本來可以依附於他的人，自己打得頭破血流，損失殆盡，最終的結果卻是壯大了周圍的割據勢力。同時冉魏的稱帝政策也很不得人心，東晉討厭他，前燕防備他，前秦也沒有把他當朋友。冉魏雖然幾乎總是在打勝仗，但無論從內部實力上，還是外交手段上，他都是失敗者，結果是越打越少，越勝越弱。
劉顯殺了石祗，卻不肯再降冉閔，自己搞起割據。冉閔親自率兵攻打劉顯，劉顯手下大將軍曹伏駒投降獻城。冉閔攻入城中，殺劉顯及百官，暫時平定了中原。但中原攘亂已久，很多地方百里無人煙，沒人種糧，到處饑荒。冉閔於是帶兵去常山（今河北省石家莊市北三十里處，太行山腳下王定縣）和中山（今河北省西部太行山腳下平山縣）一帶籌糧。
燕王見冉閔只帶一萬步兵棄險外出籌糧，便以慕容恪為帥，慕容評、慕容軍、慕輿根、鮮於亮、高開等為將，選精兵十萬南下，意圖包圍冉閔軍隊，一戰而得中原。
冉閔手下人都勸他回去守城。