八月，靳准与弟靳术商议曰：“今汉王粲无道，烝乱宫室，不理朝政，吾欲勒兵诛之，取其天下，你可助我一臂之力，共享富贵。”术曰：“愿从兄命。”准曰：“来日弟与吾二人勒兵入宫，尽诛刘氏，百官自从。”计会已定。 次日，靳准、靳术兄弟，各披甲执锐，领甲兵二万人，术引兵突入宫廷，但见阉官，不论大小，尽皆杀之。靳准斩关而入，樊陵、许相出殿来呼：“不得无礼！”术立斩二人，以下尽皆奔走。赵广、夏胜四个，赶在翠华楼上放火，跳下楼，就楼前被剁做肉泥。宫中火焰冲天。汉王粲同五皇后，并内省官属，复从走北宫。靳准正在宫中，环甲持戟，立于阁下，望见汉王拥五后过来，大呼：“烝贼休走！”喝众军向前，将汉王粲并五后擒祝又令军士入宫，将汉王宗室刘氏男女、少长尽皆杀之。 准自出坐殿上，靳术领甲兵环立四边，命手下军呼集百官，至殿下，谓曰：“今汉王粲不亲政事，淫乱太后，吾故杀之，自代其位。诸大臣顺者高官，逆吾者必诛！汝等心下何如？”
群臣皆不敢逆，只得山呼万岁毕。准自谓曰：“吾自称为大将军、汉天王也。”又谓胡嵩曰：“自古无胡人为天下者，今以传国玺付汝，还于晋家。”嵩不敢受，准怒杀之。又命武士将汉王粲，并五皇后宗室男女少长三百余人，斩于东市。又使人发掘元帝刘聪墓，取出棺椁焚之，烧其宗庙，尽皆灭之。
靳准既即天王位，以弟为丞相，总督中外诸军事，又遣使告司州刺史李矩曰：“刘渊屠各小丑，矫称天命，使二帝幽没，卿等辄率众扶持梓宫以还，请以上闻。” 李矩得其语，驰遣人上闻之于晋帝。晋帝大悦，使太常韩胤等前去，奉迎梓宫。
靳准欲以王延为左光禄大夫，延骂曰：“弒主逆贼，何不速杀我，以吾左目置西阳门，观相国之人也！再以吾右目置建春门，观大将军之人也！”准怒杀之。 却说相国刘曜，闻平阳大乱，每日啼哭，自长安发兵讨之。
石勒闻知，亦率精兵五万，以讨靳准，据襄陵北原。靳准探知二处起兵，亦引兵十万来迎战。勒坚壁以挫之。 十一月，呼延晏私奔来报相国刘曜，时曜兵至垒，延晏迎着，哭说靳准谋逆之事，相国曜大哭，昏倒在地，众将急曰：“死者不可复生，痛之无益。”曜停哀，命将土举哀数日。晏入内曰：“今少帝为贼所弒，殿下宜即大位，以安众心。”曜从之，乃即皇帝位于赤壁，改元戊寅为光初元年，下诏以石勒为大司马，加九锡，进爵为赵公。于是勒始进兵攻准，平阳以及羌羯，降者十余万落，勒皆从于所部。