晋太兴元年(公元318年)七月十九日，刘汉昭武帝刘聪病逝。二十日，太子刘粲继位。靳准有谋反的念头，他私下里对刘粲说：“我听说公卿们准备像商代伊尹、汉代霍光那样代摄朝政，先杀掉太保呼延晏和我，让大司马刘骥总管朝政，陛下应当尽早想办法。”刘粲没有听从。
靳准让皇太后和皇后二位靳氏劝说刘粲杀掉权重位尊的公卿。刘粲听从了，拘捕了太宰刘景、大司马刘骥和其同母弟弟车骑大将军吴王刘逞、太师刘和大司徒齐王刘劢，把他们全都杀了。
八月，刘粲在上林苑练兵，准备征讨石勒。让丞相刘曜担任相国，统管所有内外军务，仍然镇守长安。任靳准为大将军、录尚书事。刘粲经常在后宫游玩宴饮，军国大事都由靳准决定。靳准假称诏令，让堂弟靳明任车骑将军，靳康为卫将军。
靳准想要造反，与王延合谋。王延不肯加入，骑马准备去告发他，路上遇见靳康，被抓了回来。靳准于是领兵登上光极殿，派兵抓住刘粲，罗列他的罪名，然后杀了他，谥号隐帝。刘氏族人，不论老幼都在东市斩杀了。又挖了永光、宣光两座陵墓，用刀砍刘聪的尸体，焚烧了刘氏宗庙。靳准自称大将军、汉天王，行使皇帝职权，设置百官。靳准对安定人胡嵩说：“自古以来没有胡人当天子的，现在我把传国玉玺交给你，还给晋王室。”胡嵩不敢接受，靳准发怒，把他杀了。
靳准派使者告诉司州刺史李矩说：“刘渊是匈奴屠各部的小丑，乘晋内乱的机会，假称天命，使得晋怀帝、晋愍帝被俘身死。我立即率领大家扶持二帝梓宫送回南方，请上报晋朝皇帝。”李矩急忙向晋元帝司马睿上表，司马睿派太常韩胤等人奉迎梓宫。
刘汉尚书北宫纯等招集晋人，在东宫设立堡垒，被靳康攻灭。靳准想让王延任光禄大夫，王延大骂说：“屠杀各部的逆贼，为什么不快点杀了我?把我的左眼放在西阳门，好看相国刘曜攻进来。把我的右眼放在建春门，好看大将军石勒攻进来!”靳准就把他杀了。
相国刘曜听说发生变乱，从长安赶来救难。石勒也率领五万精兵讨伐靳准，占据了襄陵以北的平原。靳准多次挑战，石勒坚守不出，以挫败敌人的锐气。
十月，刘曜到达赤壁。太保呼延晏等人从平阳前来归附，与太傅朱纪等共同奉上皇帝的尊号。刘曜于是即位，大赦天下，只有靳准一族不被赦免。
靳准派侍中卜泰赠送车驾、服御给石勒，向他请和。石勒囚禁了卜泰，把他押送到刘曜那里。
刘曜对卜泰说：“先帝刘粲末年，所作所为实在违背人伦。大司空靳准像伊尹、霍光那样，使朕登上皇位，功劳很大。他如果能早日迎接大驾，我会把朝政全部委托给他，何况免除一死呢?你替朕进城，向靳准说明我的意思。”卜泰回到平阳，靳准因为杀了刘曜的母亲、兄弟，所以心里犹豫，最终没有答应。
十二月，左、右车骑将军乔泰、王腾和卫将军靳康等人合谋杀了靳准，推举尚书令靳明为君主，派卜泰带着传国的六颗玺印投降刘汉。
