刘聪死后，汉赵分裂成了三部分，分别是关中的刘曜，河北的石勒，平阳老巢的刘粲。
刘粲是刘聪的儿子，是汉赵的正统皇帝，名义上是刘曜和石勒的头儿。但是刘粲这个人太不成器，当了皇帝没几天，就把刘聪草草安葬，然后就把主要心思都花在他爹那些妃子身上。至于朝政，刘粲没当回事。
当时汉赵的司空靳准见刘粲昏庸，就设计把他杀了，顺带着把包括刘曜的母亲和兄长等在内的一票汉赵刘氏宗亲也杀了。
惹了天大的麻烦，靳准自知这件事无法蒙混过关。于是他就睁眼说瞎话，说自己杀得都是匈奴人，号召汉人老百姓跟随他赶走匈奴人，并且他向东晋上书请求庇护。（靳准自己也是匈奴人）
靳准的举动，东晋朝廷当然不信了。为了表决心，靳准就亲自率领大军征讨石勒。
刘曜听说靳准杀了刘粲以及自己的母兄，就出兵讨伐靳准，并且他还自立为帝，以汉赵皇帝自居。当时靳准正在打石勒，刘曜在西面抄他老巢，他被两面夹击，被打的很惨。
不久后，靳准的几个弟弟为了保命，就把靳准给卖了，并且还把传国玉玺送给刘曜，开城投降了刘曜。
石勒听到这个消息，气炸了。他一向对刘曜不服气，就命令侄儿石虎为先锋，猛攻汉赵都城平阳，最后一把火把平阳给烧了。
刘曜听说石勒居然把首都烧了，当时也是急眼了。就派人骂石勒，说现在朕是皇帝，你烧了皇宫，朕住哪？
石勒表面上赔不是，但心里很不爽，大骂刘曜算哪门子皇帝？反正他不承认。从这个时候开始，刘曜和石勒的关系就从一开始的面和，心不和变成了面不和，心也不和。
之后，刘曜还想拉拢一下石勒，就遥封他为藩王。石勒本来就是割据一方的实权派，刘曜封不封他，他都是事实上的藩王，所以对于刘曜的册封，他心里很不满。不过，既然刘曜主动给脸，他也不能不兜着，所以他还是派了使者去长安恭贺刘曜即位，并给刘曜献上很多珍贵礼物。
事情到这里，大家假模假样的恭维一番，本来就完事了。然而石勒派去的使者团中有个叫曹平乐的门客，贪图富贵，偷偷的对刘曜说，石勒派我们来这里，表面上是来给陛下道贺，其实是让我们当间谍的。待我们摸清楚了关中的虚实后，石勒就会来打您！
刘曜听了这话，勃然大怒，然后下旨把石勒派来的使团一齐斩首，只有一个叫刘茂的人逃了回去。
刘茂逃回去后，向石勒哭告刘曜屠杀使团的情况，石勒大怒，命令杀死叛徒曹平乐的三族，停止对刘曜的进贡。
之后石勒干脆就召集部将，表示自己想单干，自立为王。大家是个什么意见？
众人一听，您要称王啊？那好啊！您称王了我们都是开国元勋，我们都同意。
于是石勒就在襄国自立为王，也把国号叫做赵国。为了和刘曜的赵国区分，这个赵国被史学家叫做“后赵”。刘曜的则是“前赵”。
石勒和刘曜翻脸后，并没有马上开战，而是采取了大力发展经济的策略，先防守，后进攻。所以前几年都是风平浪静。
刘曜看石勒没来打自己，就把注意力放到了陇西一带，对当地的少数民族横征暴敛。激起民众的反抗。虽然这些反抗后来都被平定了，但这给前赵后来的灭亡埋了一个坑。
公元325年，居住在河套地区的原来依附石勒的北羌王盆句除投靠刘曜，石勒的部将石佗发兵雁门关征讨，俘虏了三千多人准备回国。刘曜听说后，下令追击，在追击中击败石佗，并杀掉了六千多后赵军队。
至此，前赵和后赵终于是结了仇，石勒决定跟刘曜干到底。
石勒刚和刘曜结仇的时候形势十分不妙。南面和东晋有着漫长的边境线，祖逖的北伐军不断壮大，势头咄咄逼人。山东的原汉国大将曹嶷被石勒封锁后也就地称王，对石勒早就不怀好意。北方状况更糟，有鲜卑三虎之称的辽西慕容氏、幽州段氏、代国拓拔氏对石勒的领地不断蚕食。当时的后赵可谓是四面受敌，所以石勒不敢跟刘曜硬钢。
不过，此时情况不一样了。祖逖死后（就是闻鸡起舞的那位），东晋压力解除；北方段氏打内战，对石勒没有威胁；至于青州的曹嶷在发现周围的反赵势力都被平定后，其部将就把他绑了送给石勒当了投名状。（石勒把曹嶷以及其部将全杀了，一共三万人）
所以此时的石勒没有任何外患，他唯一的敌人就是刘曜。
325年6月，刘曜感觉石勒要来打自己，就先发制人，派遣重甲士兵五千，精兵一万进攻河东重镇孟津。石勒早就等这个机会了，遂即就让石虎领四万骑兵增援，把刘曜的部队杀了个精光。
刘曜听到前线大败的消息后，亲自率领部队援救。石虎听说，也率三万骑兵前来厮杀。
不过刘曜的亲兵战斗力很强，来势汹汹，石虎的先锋一见到刘曜的先锋就被吓跑了。石虎也感觉这一仗毫无胜算，正准备撤退回襄国。可谁知道，刘曜的部队晚上驻扎后突然炸营，士兵逃跑了一大半。刘曜只好退到渑池，石虎不战而胜。（所谓炸营，就是士气溃散了，大家趁机自相残杀，有仇报仇，有怨报怨。杀完了趁夜逃跑）
更搞笑的是，到了第二天晚上，刘曜的部队居然又炸营了，上下一片混乱，于是刘曜只好率领昏昏沉沉的残部逃到长安。让石虎白捡个大便宜。
此一战，前赵军未战先乱，莫名其妙的发生两次炸营，损失惨重，可谓是元气大伤。
刘曜退回长安后，决定重整旗鼓，待整顿部队后再反击。不过他还没动，陇右被他欺负的少数民族和前凉国主张骏就来报复了。这帮人趁刘曜虚弱之际，纷纷独立，又给刘曜的后背捅了一刀子。
公元326年，石虎带领四万精锐趁势进攻前赵的河东（今山西南部）一带。河东五十多座县城守将看到刘曜打败仗了，都纷纷投降石虎。这时轮到刘曜陷入危机了，西北的张骏、西方的杨难敌、西南的李雄都开始在边境囤积重兵，准备趁石虎进攻关中时分上一杯羹。
刘曜知道形势不妙，就仔细研究了一下边境形势。他认为目前的颓势都是石虎那个杀千刀的导致的，只要赶跑了石虎，别人就不怕了。于是刘曜集结了关中全部可以调动的兵力，除了留一部分防卫陇西外，其余全部派出去进攻石虎。
这一战刘曜十万大军，士气虽然不高，但人多势众。石虎碰到这十万多人的部队，根本就抵挡不住，被连续追杀了二百里。
石虎惨败，他先前攻克的前赵府县又纷纷投降了刘曜。石勒听说前线惨败，只好宣布襄国戒严。然后他集结了六万多步兵和四万骑兵，亲自率领，与刘曜决战。
当时，刘曜把部队都集结到了洛阳。石勒的谋士对他讲：刘曜深入我境内千里，必定支持不了多久，大王最好不要亲自动手。
石勒对此有不同意见，他认为：刘曜军队的士气还是有的，只不过刘曜在士气高涨时没有尽快进攻，现在竟然停在了洛阳。如果他在成皋驻扎，利用关口消磨我的士气，那是上策；在洛水驻扎，利用洛水与我对峙，消磨我的锐气，是中策，可现如今他却在洛阳坐守，坐等我跟他对攻，这就是下策了。他在等我，而我方部队已经养好精神。现在我就是要一股锐气杀过去，一战干掉他。
之后，石勒兵分三路进攻成皋。当后赵的十万大军抵达成皋关时，竟然发现关上真的无人防守，石勒听说后，喜出望外，拍着脑袋大叫：“这是天意啊！”
再之后，石勒催动部队急行军到洛阳城扎寨。等他看到洛阳西连绵十几里的刘曜大营的时候，便胸有成竹地对部下说：“你们可以提前祝贺我了！”
石勒在摩拳擦掌，准备大决战时，刘曜却昏庸到了顶峰，他在洛阳天天就是喝酒，部将劝谏他，他就把提意见的部将一律斩首。后来他的前锋部队和石勒的小股兵力作战，活捉了几个俘虏，俘虏说：“大王亲自来了，人很多啊。”
刘曜顿时吓得变了脸色，命令部队收缩，打算抱团应战。
过了两天，石勒命令石虎率领三万步兵从北面出城往西进攻刘曜的中军，部将石堪、石聪率领八千骑兵从西面出城往北进攻刘曜的前锋。这时的刘曜居然还在喝酒，听说石勒出兵进攻，他为了表示自己的镇定，就又喝了几大斗酒，方才迎战。
混战开始后，双方的部队浴血搏斗，刘曜看着双方厮杀，感觉很过瘾，然后他就喝干了手中的酒，率领亲兵居然就冲入了战团。
由于刘曜是皇帝，他亲自出战必然是锣鼓喧天，红旗招展。所以很快，石勒的部队就看到了刘曜的御旗，知道刘曜亲自上阵。然后石勒大军立即围了上去——不打杂兵，专门攻刘曜的御驾。
古代的军队，阵型一乱，必然要溃散。后赵的军队专攻刘曜御驾，所以前赵的军队立刻就大乱。刘曜被乱兵裹走，战马掉到附近河里的冰窟窿里，转眼间就冻住了，连人带马都动弹不得。
一会时间，后赵的追兵杀过来，追兵一看水里面的就是刘曜，然后就把他活捉了。
刘曜被活捉后，石勒停止追击，他派医生给刘曜治伤，并带回襄国软禁了起来。
石勒暂时没杀刘曜，当然不是因为他心慈手软，而是他想让刘曜写信给长安守军，让前赵的残部投降。
刘曜虽然昏庸了一点，但还算个爷们。他拒绝了石勒的要求，惹得石勒非常不满。不久后，石勒下令将刘曜处死，并派兵攻打长安。
当时守长安的是刘曜的小儿子刘熙，他没有刘曜的本事，把所有工作都交给他的哥哥刘胤来代劳。然而刘胤比刘熙还无能，当石勒的军队打过来时，刘胤就撺掇刘熙赶紧迁都天水，凡是出言劝阻的大臣一律斩首。
等石勒军队不费吹灰之力进驻长安后，刘胤却突发奇想，纠集了几万人要反攻长安。石勒听说这事，就让石虎率他的四万常胜军增援，石虎揪着刘胤就打，把从没指挥过军队打仗的刘胤都吓傻了，扔下部队就跑。
最后，刘熙、刘胤等前赵贵族百官约三千多人全部被活捉，并活埋。历时二十五年的汉赵政权自此灭亡。
汉赵灭亡后，石虎带着传国玉玺回到襄国向石勒请功。石勒收到传国玉玺，群臣向他请求进帝位。石勒再三谦让，先自称天王，到了第二年才称帝，封儿子石弘为太子，侄子石虎为太尉，大封群臣。自此，石勒这个奴隶出身的羯族人终于成了中原的皇帝。
