东晋大兴元年（318年）七月，汉赵皇帝刘聪自感时日不多，将儿子刘粲叫到跟前，说：“这几天，你死去的弟弟刘约老出现在我面前，可能是来接我去跟他团聚吧！”随后安排后事，让手握重兵的刘曜和石勒前来辅政，传诏晋封刘曜为丞相、录尚书、辅政，任命石勒为大将军、辅政。
刘曜和石勒都是人精，像约好了似的，都称病不来。刘聪知道已经驾驭不了他们，只好改任刘曜为丞相兼雍州牧，改任石勒为大将军、兼幽州、冀州牧。刘曜毕竟是刘渊的养子，与刘聪还有兄弟名分，不好再推辞，石勒还是坚决推辞。刘聪于是以刘景为太宰、刘骥为大司马、刘顗为太师、朱纪为太傅、呼延晏为太保，全部录尚书事，以范隆为尚书令，靳准为大司空、领司隶校尉，轮流坐班裁决军国大事。
七月十九日，刘聪咽下了最后一口气，太子刘粲即位，尊刘聪的皇后靳氏为皇太后，樊氏称弘道皇后，武氏称弘德皇后，王氏称弘孝皇后；立妻子靳氏为皇后，儿子刘元公为太子。大赦天下，改年号为“汉昌”。
刘粲对老爸的死一点都不悲伤，只感觉超级爽，老爸不但给他留下一座江山，还留下一帮年轻美貌的后妈，这些皇太后都不超过20岁，最小的皇太后才14岁。
刘粲比当年的刘聪还要猴急，一上任就毫无顾忌地扑进这些后妈的怀里，汉赵群臣马上感觉到大事不妙，纷纷摇头。但有一个人格外高兴，此人就是靳太后她爹靳准。
当初靳准就因把两个女儿送到刘聪的怀抱就成了权倾朝野的人物，如今女儿当了太后，又与当朝皇帝打得火热，现任皇后又是他的侄女，他的野心也随之膨胀。
靳准先是让女儿靳太后和侄女靳皇后在枕头边编造谣言，说公卿们阴谋废掉刘粲，准备拥立刘骥为帝。完全沉溺在温柔乡里的刘粲，连起码的调查核实工作都省了，下诏批捕太宰刘景、大司马刘骥、车骑大将军刘逞、太师刘顗和大司徒刘劢，靳准拿到诏书，又进一步发挥，将这些人全部处死。太傅朱纪、太尉范隆逃奔了长安。
刘粲沉溺酒色，整天在后宫游乐，把军国大事都交给靳准处理。
靳准乘机假传诏令，任命堂弟靳明为车骑将军，靳康为卫将军。并阴谋发动政变，想联合德高望重的金紫光禄大夫王延废黜刘粲。王延不肯，想进宫向刘粲告发，半路上遇到靳康，被抓了回来。
靳准害怕事情败露，快速领兵冲进紫光殿，把毫无准备的刘粲给抓了起来，在数落了刘粲及其祖宗十八代的种种罪行后，一刀杀了这个匈奴人，可怜的刘粲登上皇位屁股还没坐热，就人头落地。靳准接着下令把平阳城中的刘氏皇族，不分男女老幼全都押解到东市斩杀。又派人挖掘刘渊和刘聪的陵墓，刘渊的骨头已经散架，就把刘聪的尸体拉出来斩首，又一把火烧毁了刘氏宗庙。
靳准政变成功，端坐在光极前殿自称大将军、汉天王，设置百官。召来晋人胡嵩，对他说：“自古以来没有胡人能做天子的，我把传国玉玺交给你，请你将其送归晋王室。”事情来得太突然，胡嵩一时没反应过来，吓得不敢受命，靳准大怒，说他是软骨头，一刀把他杀了。
靳准又派人给东晋司州刺史李矩传话说：“刘渊不过是匈奴屠各部的无名鼠辈，竟敢趁朝廷内乱，违抗天命登基称帝，使怀帝、愍帝被俘身死。我现在替天行道，准备奉还二位先帝的灵柩，请李大人代为禀告皇帝。”李矩让人快马加鞭，火速向司马睿报告。司马睿将信将疑，派太常韩胤带人北上，果真迎回了晋怀帝和晋愍帝的灵柩。
靳准为了收买人心，让王延担任光禄大夫，王延破口怒骂靳准：“你这屠各逆贼，你把我杀了吧！把我的左眼挂到西阳门上，我要看着相国（刘曜）攻进平阳；再把我的右眼挂到建春门上，我要看着大将军（石勒）杀进平阳。”
果然，盘踞在长安的刘曜听说京都发生变乱，点起兵马就向平阳进军。已经把大本营定在襄国（今河北邢台）的石勒也率领5万精兵向平阳开来。刘曜走到赤壁（今山西河津市赤石川），遇到了从平阳逃出来的太保呼延晏与太傅朱纪。两人劝说刘曜登位称帝，刘曜也就不客气地即皇帝位，改元“光初”，封朱纪为司徒，呼延晏为司空，石勒为大司马、大将军，晋爵为赵公。
此时的石勒虽然名义上还是赵汉的官员，实际上已经牛得没边了，这从他敢于拒绝刘聪的任命就可以证实。实际上，从永嘉五年（311年）在洛阳与刘曜分手后，石勒就一直在扩充实力，抢占地盘。
事情还得从洛阳沦陷时说起。汉军攻入洛阳大搞打砸抢之时，石勒虽然没有赶上趟，可王弥为了巴结他，把自己掠夺的美女宝物送了一半过来，这两人可称是英雄惜英雄，都不敢小瞧对方，而且都有自立的野心。
永嘉五年（311年）八月，石勒端了苟晞组建的临时政府，活捉了豫章王司马端和苟晞本人，用狗链锁住苟晞的脖颈，强迫他为自己效力。最终苟晞成了石勒的左司马，当时王弥得罪了刘曜，打算自己创业，派左长史曹嶷率5000精兵回去经营青州老家，部将徐邈、高梁也带领所部擅自离去，实力大逊，便向石勒献媚说：“苟晞可是你的死敌，你抓住他又任用他，何其神妙！假如让苟晞和我一起辅佐你，天下就是你的了！”
王弥这无事献殷勤的举动，让石勒更加警惕，对谋士张宾说：“王弥位高权重，却如此恭维我，肯定有着不可告人的目的。”事实正如石勒所料，刚刚归顺王弥的原西晋司隶校尉刘暾力劝王弥灭掉石勒，吞并其部众，割据一方，以观时局。
于是，王弥让刘暾带着自己的亲笔信到青州通知曹嶷，命曹嶷率兵合击石勒。刘暾走到兖州东阿（今山东东阿县）时，被石勒的流动骑兵抓获。石勒看了信后，秘密杀死了刘暾，王弥对此毫不知情。
当时石勒正在全力追剿“乞活军”陈午所部，王弥也正与驻守寿春的刘瑞对峙，相持不下，王弥就试探性地向石勒请求援助，石勒一开始不肯，张宾献计说：“明公不是为找不到机会消灭王弥而犯愁吗？上天把机会送到你面前了。陈午不过是个小角色，不值得忧虑，王弥可是人中豪杰啊，应该尽早除掉。”石勒于是丢下陈午，亲自带兵击杀了刘瑞。
王弥非常高兴，认为石勒是真心对自己好，不再怀疑对方。
石勒灭了刘瑞，连口水都没喝就带兵离去，王弥觉得过意不去，就想请石勒喝顿酒聊表谢意，石勒挺客气，说咱哥俩谁跟谁啊，要不你到我这，咱哥俩喝个痛快！王弥一是放松了警惕，二是想趁机察看石勒的虚实，准备赴约，长史张嵩劝他别去，当心鸿门宴，一向算无遗策的王弥却异常自信，没拿张嵩的话当回事。
当两人推杯换盏，喝得正高兴的时候，石勒也不劳烦别人动手，抽出腰间的佩刀把王弥给砍了，随即率军吞并了王弥的部众，然后上报刘聪，说王弥谋反，他已经为国家清除了祸患。
刘聪很生气，派人指责石勒：“擅自害死朝廷辅佐大臣，目无君主”。但由于石勒羽翼已丰，为了笼络他，刘聪不仅不敢跟他翻脸，反而加封他为镇东大将军，都督并、幽二州军事，兼任并州刺史等职。
石勒从此更加猖狂，在华北大地上纵横驰骋，兵锋所指无不望风披靡。他最终采纳谋士张宾的建议，摈弃之前的流寇作风，占据襄国，以此为大本营，囤兵积粮，图谋称霸。
幽州刺史王浚见石勒在自己的地盘安家，遂想趁其立足未稳之际，派都护王昌率领各路军队，联合辽西公段疾陆眷及其兄弟段匹磾、段文鸯、段末柸的军队，共5万人，浩浩荡荡杀奔襄国而来。
襄国城的护城河、城墙还没来得及修筑，只好临时设置栅栏、障碍，抵挡来犯之敌。鲜卑骑兵的优势在于机动性强，冲击力大，石勒的军队数次出击都被打败。段疾陆眷派人制作大量的攻城器具，准备围攻襄国。
石勒召集众将召开军事会议，说：“眼下敌众我寡，围城的军队攻势不减，我们又没有外援，与其坐以待毙，不如倾城出动，与敌人决一死战，或许还有生机，不知各位意下如何？”众将领都领教过鲜卑骑兵的厉害，不敢与对方野战，都主张固守疲敌，等对方师老兵疲，再寻机出击。
石勒失望之余，征询张宾的意见，张宾既不赞同跟对方死拼，也不同意死守，说：“段氏大军远道而来，与我军交战连连取胜，必然认定我军势单力薄，不敢出战，已经有所懈怠。据我的观察，鲜卑各个部落，以段氏最强，其中又数段疾陆眷的堂弟段末柸最为骁勇。我们就有针对性地在北城挖下20道暗门，埋下伏兵，等他们来攻城时出其不意偷袭段末杯，只要将他拿下，剩下的敌人就不足为虑了。”
石勒当即命将军孔苌依计行事，几天后，鲜卑骑兵果然从北城进攻。孔苌趁其布阵之时，率精兵从暗道出城，袭击段末柸阵营。打了一阵，孔苌佯装败走，段末柸紧追不舍，一直追到孔苌的军垒门，伏兵从各道暗门冲出，生擒了段末柸，追兵也被杀得七零八落。
段疾陆眷见段末柸被俘，急忙领军后撤。在城头统揽全局的石勒命人擂响战鼓，孔苌回马乘胜追击，将鲜卑诸军杀得尸横30多里，缴获铠甲马匹数以千计。段疾陆眷带领残兵败将逃到渚阳（今邢台市东北），才停下脚步。
石勒以段末柸为筹码，派使者向段疾陆眷求和。段文鸯担心与石勒和解会得罪王浚，劝哥哥不要因为段末柸一个人给整个部落带来后患。段疾陆眷不以为然，不仅同意和解，而且还给石勒送去大量铠甲马匹金银，又用段末柸的三弟做人质换回段末柸。
石勒的部将都劝他不要放虎归山，石勒说：“辽西鲜卑是强大的部落，与我们素无仇怨，他们不过是受王浚的指使罢了。杀一个人而与一个部落结仇，不是明智的做法，放他回去，他们一定会感念我，不再被王浚所用。”于是用更丰厚的金银布帛回赠段疾陆眷，派侄子石虎到渚阳与段疾陆眷结盟，双方还拜了把子。段疾陆眷随后率兵返回辽西，都护王昌孤掌难鸣，也只好返回蓟城。
段末柸离开之前，石勒设宴为他饯行，把段末柸感动得稀里哗啦，当场认石勒为义父。在北返辽西的路上，更是每天向南方遥拜三次，感念义父的恩德。从此鲜卑段氏心向石勒，王浚再也调不动他一向使得很顺手的鲜卑联军了。
建兴元年（313年）夏天，石勒派石虎击溃刘琨任命的兖州刺史刘演守军，攻占了邺城，刘演逃往廪丘，将军谢胥、田青、郎牧等率领三台的流民投降石勒。石勒让石虎镇守邺城，又趁势攻占山东各郡，乌桓人也归附了石勒。
这样，石勒就以襄国为中心，建立起了稳固的根据地。他下一步要对付的就是晋朝残余在关东的两大势力：幽州的王浚和并州的刘琨。王浚在永嘉之乱后，就假立太子，设立行台，自置百官。石勒抓住王浚想称帝自立的心理，于十二月派舍人王子春和董肇带着大量金银珠宝去见王浚，请求归附，并力劝王浚早日登基。王浚开始还保持警觉，问来人：“石公是当世英雄，占有赵、魏之地，可成鼎足之势，为什么要做我的藩 属呢？”
王子春是个能说会道之人，回答说：“诚如明公（指王浚）所言，石将军英雄盖世，兵力强盛，可毕竟是胡人。而明公出身名门，威震天下，万众归心，又岂是我们小小的一个襄国能比的？自古以来，只有胡人归汉做名臣的，却没有做帝王的，所以石将军不敢逆天道而行，尊奉明公，是顺应天意！”
一席话哄得王浚高兴死了，当场把王子春和董肇封为列侯，赏赐了大把的钱财。而就在王子春、董肇出使幽州之时，王浚的司马游统也暗中派人带着密信求见石勒，原来在王浚承制期间，手下的参佐都在内任职，唯独游统被外调，而且迟迟没有被召回的迹象，看到石勒如日中天，就想前来投奔。
石勒杀死了来人，把游统的密信转交给王浚。至此，王浚对石勒的忠诚不再有半点怀疑。
建兴二年（314年）正月二十二日，王子春、董肇带着王浚的使者返回襄国。石勒把精兵和粮食都隐藏起来，王浚的使者看到的都是些老弱残兵和空空如也的仓库。石勒还恭恭敬敬地接受王浚给他的回书和赠送的拂尘，命人设置香案，将拂尘当圣物供奉起来，早晚朝拜一次。石勒对使者说：“我虽然见不到王公，可见到他所赐的东西，犹如见到他本人。”然后让董肇陪使者一同返回幽州，并约定三月中旬亲自到幽州尊奉王浚称帝。
使者一走，石勒就急不可待地让王子春报告这次幽州之行刺探到的情报。石勒听完汇报，手扶案几笑着说：“王浚的末日到了！”话虽如此，石勒对鲜卑、乌桓以及并州的刘琨还有所顾忌，担心他们从背后袭击。
张宾分析说：“鲜卑、乌桓刚刚背叛了王浚，这个时候不会对我们不利。至于并州的刘琨，他虽然与王浚同为晋臣，彼此却有很深的怨恨。只需修书一封向刘琨求和，他必定乐看王浚败亡而按兵不动。兵贵神速，别再犹豫了！”石勒乐哈哈地说道：“有右侯（张宾一直担任右长史，石勒惯称其‘右侯’）在，我还有什么可犹豫的呢？”
三月，石勒按期赴约，声称要到蓟州朝贺，率军抵达易水。督护孙纬还保持着警惕，担心石勒使诈，劝王浚派兵设防，王浚说：“石将军是来拥戴我的，你怎么老往坏处想。”
王浚随即针对石勒一行的到来，下令：“有再敢说开战者，格杀勿论！”并命人准备好宴席，接待石勒。
王浚不设防，石勒却不敢掉以轻心。他率领军队来到幽州城下时，担心城里有埋伏，就先驱赶几千头牛羊在前边开路，声称是献给王浚的贺礼，实际上这些牛羊是用来阻塞城内的大街小巷的，即便有伏兵也使不上劲。
王浚这时才觉得不对劲，可为时已晚，石勒已经率军冲进了他的将军府。王浚还没来得及组织兵力抵抗，就被石勒的手下生擒活捉。
王浚四肢都被捆得严严实实，可嘴还能动，大骂石勒叛逆，石勒则指责王浚不忠于晋朝、妄图僭越称帝、残害忠良、漠视百姓等不法行为，驳得王浚哑口无言，并将其带回襄国斩首。
幽州一失，并州的刘琨就成为晋朝在关东硕果仅存的力量。此时并州的东面是石勒的大军，南面是刘聪的军队，形势愈发严峻。刘琨之所以能在并州苦撑，得益于他以胡制胡的策略，多次借鲜卑骑兵的力量打败汉赵军队的进攻。为了进一步拉拢拓跋鲜卑部，他不惜得罪王浚，于建兴三年（315年）上表请求朝廷晋封拓跋猗卢为代王。
建兴四年（316年），石勒又将兵锋指向并州，率兵在玷城围困乐平（今山西昔阳）太守韩据，韩据向刘琨求援。刘琨因不久以前帮助代国平定内乱，获得拓跋猗卢旧部箕澹及卫雄率领代国人及乌桓人加入而实力大增，便打算借此讨伐石勒，于是不顾箕澹和卫雄的劝阻，动用全部家底，派箕澹率兵2万为前锋，自己进屯广牧（今山西寿阳县西北）作为声援。石勒的部将看到鲜卑军队来势凶猛，都劝石勒深沟高垒，避其锋芒。
石勒却看到了对方的两个破绽，说：“鲜卑骑兵虽然凶猛，但箕澹的部众才刚刚归顺刘琨，号令尚未统一，而且他们远道而来，已经精疲力竭，我们正好乘机收拾他们。”
于是石勒命孔苌为前锋都督，在山上布阵诱敌，在山外埋下伏兵。等鲜卑军队进入设下的伏击圈时，伏兵四起，鲜卑军大败。箕澹及卫雄带领残兵败将逃回代国，韩据则弃城逃奔刘琨。并州大震，阳曲长史李弘竟以并州投降石勒，令刘琨进退失据，只好投奔驻守蓟城（今北京城西北）的幽州刺史段匹磾。
段匹磾这个幽州刺史其实是自封的，原来石勒灭了王浚得到幽州后，让原来的晋朝尚书刘翰留守幽州，自己返回了襄国。刘翰良心未泯，见段匹磾虽然是鲜卑人，可对晋朝异常忠心，就把幽州让给了他，蓟城就成了段氏部落的一个基地。
段匹磾对刘琨的到来表示欢迎，双方还歃血盟誓，要共同拥戴和辅佐晋王室，当听到晋愍帝司马邺在平阳遇害的消息后，刘琨派自己的左长史兼右司马温峤，段匹磾则派自己的左长史荣邵，双双奉上劝进表和盟约誓文前往建康劝司马睿称帝。
晋元帝大兴元年（318年）正月，段疾陆眷去世，叔父段涉复辰自立为王。段匹磾得知哥哥的死讯，就带上刘琨的儿子刘群率兵从蓟城赶回令支（今迁安、迁西和滦县北部地区）奔丧。
段末柸趁机挑拨离间，对段涉复辰说：“段匹磾八成是回来争夺王位的。”
段涉复辰当然不愿拱手让出王位，连忙派大军前去截击段匹磾。段末柸则乘王府空虚，袭杀了段涉复辰，并尽杀其子弟党羽200余人，自称单于。随后又发兵攻打段匹磾，毫无准备的段匹磾被打得大败，刘群被俘，段匹磾则逃回了蓟城。
段末柸厚待刘群，承诺让刘琨担任幽州刺史，共同对抗段匹磾。便让刘群给老爸写了一封信，劝刘琨看清形势，作出明智的选择。段末柸派人拿着刘群的书信送去，让刘琨当内应，结果信使被段匹碑的巡逻骑兵抓获。
段匹磾相信刘琨的为人，便把他请来，拿出刘群的信给他看，刘琨当场表明态度：“我与段公当初结盟，是为了有朝一日能荡平中原，匡复晋室。就算这封信秘密送到我的手里，我也不会背叛段公，抛弃大义。”
段匹磾信得过刘琨，表示其他人也信任刘琨。弟弟段叔军就把他叫到门外劝说：“我们是胡人，晋人所以敬服我们，是因为我们宗族繁盛，兵强马壮。眼下我们骨肉相残，给晋人提供了图谋我们的良机。一旦他们推举刘琨为首领，起兵作乱，我们就全完了。”段匹磾觉得弟弟说得也不无道理，就把刘琨留在了蓟城，实际上是将其软禁了起来。
当时刘琨的征北将军府设在蓟城外的小城，刘琨的庶长子刘遵闻知父亲遭到扣押，急令左长史杨桥关闭城门自守。此举又被段匹磾抓到口实，没事你怕什么呀，遂攻破城门，把两人一块抓来。刘琨可是名人，他被拘押，自然引起很多人的议论和不满。
段匹磾之所以与刘琨结盟，是想借助刘琨的威望提高自己的号召力，没想到刘琨的到来没能让段氏内的部实力派听命于自己，却赢得了幽州胡、汉民众的心。代郡太守辟闾嵩、雁门太守王据、后将军韩据等人密谋突袭蓟州，救出刘琨。
韩据的女儿嫁给段匹磾儿子做妾，她获悉了自己父亲的计划后，竟然卖父求荣，向段匹磾告密。段匹磾立即逮捕了辟闾嵩、王据以及牵连到的部众，将他们全部杀掉。
事情好像真的如段叔军所言，刘琨真的是一枚定时炸弹，再留着他还不知道会生出多少乱子。恰好建康方面派来了使者，段匹磾遂于大兴元年（318年）五月初八，矫诏宣称刘琨企图自立为帝，犯上作乱，派人将刘琨勒死。刘琨时年48岁。一同被杀的还有刘琨的儿子、侄子共4人。
至此，整个关中、河北就剩石勒一家独大了。他这次进军平阳，绝不是为汉赵效忠“讨伐叛逆”，而是另有目的。果然，石勒大军一到，平阳城中的巴人、羌人和羯人等各部落共计10多万人向他投降。经过无数的战乱，此时最重的资源就是人口，石勒把这10多万人全部迁徙到自己的辖区，结结实实发了笔大财。
平阳城中的靳准慌了神，急忙派侍中卜泰奉上皇帝御用的车轿、服饰向石勒求和。石勒一看没有玉玺，很不高兴，就把卜泰塞进囚车送到刘曜那里，传递一个无声的信息：“人家靳准向我投降，无意跟你合作，你就别费劲了，回去吧。”
刘曜将计就计，好生款待卜泰，让他回去转达靳准：“先帝（指刘聪）末年，确实朝纲大乱。要不是司空靳准在先帝驾崩之后依照伊尹、霍光之例行使大权，朕怎么可能荣登宝座呢，他这可是立了大功啊。朕初登大位正需要万众归心，怎么会随意诛杀功臣呢，如若司空能早日恭迎大驾，朕还要委以重任呢！你就回去把朕的意思告诉他。”
卜泰回到平阳将刘曜的话转告了靳准，劝他争取主动，早日迎接刘曜。靳准却因自己杀了刘曜的父母和兄弟，犹豫不决。
靳准这一犹豫就坏事了，刘曜开出的条件让平阳的官员看到了希望，石勒可是杀人不眨眼的大魔王，投降他肯定没有好果子吃，如今靳准大势已去，如果杀了他作为投名状，嘿嘿，前途不可限量啊！
于是，卜泰联合乔泰、王腾、马忠，还有靳准的堂弟靳康等人，一起击杀了靳准，推举靳明为盟主，再次由卜泰捧着此前靳准曾想送归江南的六枚传国玉玺向刘曜 投降。
刘曜大喜过望，对卜泰说：“让我得到玉玺，坐稳帝王位置的是您啊！”
石勒却气得差点发疯，没想到自己弄巧成拙，让刘曜捡了个大便宜，于是命令大军加紧攻城。平阳城内的靳明眼看支撑不住，向刘曜求救，刘曜命令征北将军刘雅生、镇北将军刘策率军前往平阳接应。
石勒看到刘曜的部队前来，倒没怎么着，眼睁睁看着他们接应平阳城内的一万五千多人往刘曜的大营而去。刘曜得了好处，不敢过多停留，赶紧渡过黄河往西而去。
等确信石勒不会来找麻烦后，他马上翻脸，下令诛杀靳明等人，靳氏一族无论男女老幼全部杀光。然后他返回长安，改国号为“赵”，立羊献容为皇后，儿子刘熙为太子。
等石勒进入平阳后，一把火将平阳的宫室烧了个精光，把能用的东西全部搬回襄国。
石勒虽然没有得到传国玉玺，却是这次平叛行动的最大赢家，得到汉赵十多万人口，刘曜临走前还授予他太宰、领大将军，晋爵赵王，并加一系列特殊礼待，一依曹操辅佐东汉的先例。
但石勒并不买账，余怒未消地说：“刘氏的基业都是我打下来的，赵王、赵帝，我自己想称就称，哪用得着他来封？”
几个月后，石勒就自称大将军、大单于、领冀州牧、赵王，以襄国为都城，正式建立后赵，称“赵王元年”。时间为太兴二年（319年）十一月。至此，北方地区就出现了两个赵国，史称位于关中的刘曜赵国为“前赵”，关东的石勒赵国为“后赵”，他们就成了当时最强的两个割据势力。
