同在這一年，即建武二年（318），漢國也出事了。
劉聰把一切政務交給太子劉粲管理，自己安心享受人生，吃喝玩樂，好不自在。哪知道樂極生悲，有一天劉聰在後宮和劉氏家族的子弟喝酒，喝到深夜時，皆大醉，有人狂歌，有人沉睡。忽然燭台被一陣風吹倒，先將幔帳引燃，又燒上房梁。侍衛、太監、宮女們急忙滅火救人，劉聰總算被救出，但醉酒人太多，劉姓皇族被燒死二十一人，其他人等死者無數，大殿燒成一片焦土。劉聰酒醒之後，大哭於焦土之前，捶胸頓足，自此大病，卧床不起。他知道自己大限將到，遂請靳准進來，將太子劉粲託付於他。又下詔以劉曜為丞相，石勒為大將軍，皆為輔政大臣，入朝輔佐太子。劉曜、石勒手握重兵，權傾一方，哪裡願意入朝受人約束，都找了個理由推託。劉聰只好作罷，又以劉景為太宰，劉驥為大司馬，劉為太師，朱紀為太傅，呼延晏為太保，皆錄尚書事；范隆為尚書令，靳准為大司空、兼司隸校尉，共輔劉粲。安排完畢之後，劉聰於當年七月癸亥日病亡。劉粲繼帝位，葬劉聰於宣光陵，謚號昭武皇帝，廟號烈宗。
劉粲繼位後也學習他的父親，不理朝政，朝中大小事情全交給靳准一個人決斷，每日在後宮玩耍。父親替他選的這十幾個皇太后，既年輕又漂亮，也省得他去選美了。劉粲每日就和這些皇太后廝混在一起。
靳準是個誰也看不透的人，正是他輕而易舉地滅掉了劉聰苦心經營起來的，貌似強大的漢國。他趁著大權在握，把堂弟靳明封為車騎大將軍、靳康封為衛將軍，執掌了漢國的兵權，然後向劉粲誣告劉氏諸王謀反。
劉粲一定忘記了，當年就是靳准憑著誣告劉乂謀反的陰謀幫著他取得了太子位，現在靳准又來這一套，劉粲竟然相信了。他把劉氏宗族殺得乾乾淨淨，那一年從大火中僥倖逃出的劉氏宗族子弟，卻逃不出劉粲的屠刀。看來人心比烈火還要無情和狠毒。
等劉粲把自家人全部殺乾淨了，就輪到他自己了。
靳准發動政變，亂軍攻入皇城。劉粲在這個時候竟然喊出，快叫靳准救我！
靳准來了，當然不是救他命的，而是要他命的。
劉粲明白過來以後，跪倒在靳准腳下乞求活命。靳准把劉粲的罪狀一一數出，然後當場將他誅殺。他命令除去自己的兩個女兒外，凡是劉家人，無論老幼一律殺死。除了征北將軍劉雅一人逃出外，劉氏剩下的三百餘口全都被斬於東市。靳准又挖掘劉淵和劉聰墳墓，砍下劉聰的人頭，焚燒皇家祭廟。《晉書劉粲載記》形容當時慘景：「鬼大哭，聲聞百里。」
靳准自稱大將軍，但他只是稱王（號「漢天王」）卻沒有稱帝。更出人意料的是，他奉東晉為主，說：「自古無胡人為天子者，今當將傳國璽送還晉家。」遂派使臣先到滎陽，告知李矩說他已經為晉朝復仇，屠滅劉族，很快就將率兵帶著二帝的梓棺回到南方。
李矩立即馳報建康，司馬睿派太常韓胤等去平陽，迎還二帝的梓棺。韓胤剛到了黃河南岸，正準備渡河，聽說劉曜和石勒已經率大軍攻入山西，直奔平陽，知道大戰在即，只好返回。
劉雅逃到長安。劉曜聽說平陽劉氏全部被誅，自己的母親和兄弟也沒能倖免，當即發兵，以劉雅為先鋒，殺向平陽。走到半路，眾人都勸劉曜稱帝。要說靳准還真為劉曜辦了一件大好事。本來劉曜與劉聰只是族兄弟，血緣差得很遠，再怎麼輪也輪不上他當皇帝。可是靳准把劉氏皇族一口氣全部殺光了，一個都沒給剩下，劉曜就名正言順地成為漢國的合法繼承人。
劉曜赤壁稱帝，改元光初，然後帶大軍來到粟邑縣（今陝西臨潼縣東北三十四里），陳兵於石勒准控制地區的邊界。
這時石勒也以張敬為先鋒，率五萬士兵，來到襄陵（今山西臨汾南部襄汾境內），這個地方距離平陽（今山西臨汾堯都區）相當近。
靳准率軍去攻石勒，石勒堅守不出。先鋒張敬道：「您不至於怕靳准怕成這樣吧。咱們大老遠來不就是為了攻打靳准么？」
論起打仗來，石勒當然是專家，他笑道：「等劉雅帶兵來了，靳准一定退軍。到時我再出兵，必敗靳准。」
果然不久劉雅來到，靳准退兵。石勒率兵掩殺，靳准大敗，丟了幾千人馬逃回城中。
靳准見劉聰和石勒會兵一處來征討自己，知道肯定打不過人家，便打算想個辦法先使一方退兵，再回過頭來專心對付另一方。因為自己和劉氏有深仇大恨，去讓劉曜退兵可能難度係數要高一些，只能去拉攏石勒了。於是派侍中卜泰出城，將皇帝的車駕、服飾、御用之物全部送給石勒，意思是尊石勒為主。石勒大怒道：「這是靳準的離間之計，欲陷我於不義！」當即命人綁了卜泰，將卜泰連同皇帝的車駕、服飾、御用之物一股腦兒全送給了劉曜。
劉曜卻是另一番舉動，他親自為卜泰解縛，和顏悅色地對卜泰說：「先皇帝的確有不對的地方，靳准幹得好啊，他其實是個大忠臣。他做的事當年商朝的伊尹和漢朝的霍光這兩位賢臣也都做過。而且他又使朕得以登帝位，是大功一件啊。如果能早點迎朕入城，朕一定要任命他高官。你趕緊回城，向靳准轉達朕的意思。」
卜泰回去後把劉曜的原話轉告給靳准。靳准因為殺了劉曜的母親和兄弟，很是猶豫，既知道自己打不過人家，這樣拖下去不是個辦法；也擔心獻城後劉曜翻臉，到時候自己悔之晚矣。正在進退兩難的時候，堂弟靳康坐不住了。他與左、右車騎將軍喬泰、王騰合謀，發動政變殺死靳准，推靳明為領導，再次派遣卜泰出城，將傳國玉璽獻給劉曜。劉曜非常高興，好好地款待了一番卜泰，命劉雅帶兵馬退回粟邑，以示誠信。石勒聽說劉曜接受了靳氏的投降，靳明和靳康把傳國玉璽都給了劉曜，心裡很是懊惱，我早該接受他們的投降才是啊。這下子連玉璽都沒撈著。在耍陰謀上，他還差著劉曜一截。
劉曜按約退兵到粟邑，剩下石勒自個兒一個人累哼哼地攻城，靳明一開始還能守得住城，但不久石虎也帶了五萬兵馬來攻，靳明實在是吃不住了。自己不是已經向劉曜投降了么？乾脆向劉曜請援兵吧。遂遣卜泰來向劉曜求救。劉曜並沒有派兵去救，而是讓靳明來投奔他。於是靳明和靳康帶著全家和軍隊來投，剛到粟邑，便被劉曜滿門抄斬，把靳氏上下兩百餘口全部殺死，並宣布其餘將士一概無罪。這便將靳明的勢力全部收歸己有。靳明和靳康臨死才知道，自己叫劉曜給玩了，就像靳准把劉粲給玩了一樣。報應來得真快啊。
靳明棄了平陽，石勒長驅直入，修復了漢皇的墳陵，收埋了劉粲等人的屍骸。但一想起劉曜使詭計收降靳明，讓自己得了一座空城，就很是不高興。於是石勒土匪的性子又犯了，在平陽大掠一番，為毀滅證據又將平陽付之一炬，然後回兵，並派遣左長史王修去劉曜那裡報功。
雖然石勒燒了平陽，劉曜也沒有怪罪他，反而授石勒為太宰、兼大將軍，並晉封為趙王，順便把前來報功的王修也封為將軍。本來這是劉曜籠絡石勒的辦法。但王修手下有一個叫曹樂平的隨行秘書，他可能和王修有私仇，悄悄跑到劉曜那裡挑撥道：「我從石勒那裡過來，我知道石勒在想什麼。他是派王修來探您的虛實，然後和您爭天下。您現在把石勒封為王，還授大將軍、太宰等要職，這不是幫著石勒發展勢力么？」
劉曜一想也對，就把給石勒的封號都收回了，然後把王修和他帶來的人全部殺死。只有一個叫劉茂的人僥倖逃脫。
劉曜回到長安，以長安為首都，立宗廟，建社稷，行南北郊禮，正式稱帝。但在國號方面，他認為「漢」號是漢人的國號，自己的國號應當既具有民族特色，又有原創性成分。經過和大臣分析，「晉」的五行為「金」，按五行來說，「金」生「水」，而趙出自天水，「趙」的五行從「水」，正符合由「晉」生「趙」的天意；然後自己又被封為中山王，中山本來就屬於趙地，所以也當稱趙。
劉曜遂於建武二年（319）六月，改國號為「趙」，史稱「前趙」。
石勒回到襄國不久，劉茂逃了回來，把使節團全部被殺和劉曜改國號的事一說，石勒非常生氣，立刻派人把曹樂平的三族給滅了。然後召部下商量這個事情。最終的結果是，劉曜改國號為「趙」，而實際佔有趙地的是自己。看來劉曜有吞併自己的心思；而且，既然劉曜改了國號，自己反劉曜並不算是背叛漢國。於是對眾人道：「劉家的天下其實都是我幫他們打下來的，現在劉曜得志，便想滅掉我。我要和他翻臉自立，你們說怎麼樣？」
手下人當然一致同意，於是聯名請願。石勒在眾人的擁戴下，建趙國，設百官，自命趙王，但並沒有稱帝。