��亡以来，我们的单于都是徒有虚名，不再有一寸土地。其余的王侯，地位却降到与老百姓一样。现在司马氏骨肉亲人互相残杀，四海动乱如同鼎中沸腾的开水，光复呼韩邪的事业，这正是时候！”于是互相谋划，推举刘渊为大单于，并派他的心腹呼延攸到邺城去告知他。刘渊知道后，十分高兴，当时他正在邺城，便以会丧为借口要求北归会丧。司马颖不允许。刘渊只好密令呼延攸先回去，通知刘宣等人，让他们召集五部匈奴以及各小民族的积蓄力量，加紧准备，伺机反晋。

  进表原并州刺史司马腾为东燕王，以刘琨为并州刺史。刘琨到并州后，由于饥荒与战争，此地百姓难以自存，吏民万余人由李恽等率领，随司马腾流亡冀州，组成“乞活军”。留居并州的汉族居民不足二万。刘琨只好到上党组织军队，得三百余人，受到刘渊部将刘景的攻击，在上党无法立足，遂转战至晋阳（今山西太原市南）。其时，侍中刘殷、王育等向刘渊进言说：“殿下自起兵以来，已历数载，但仍偏守一方，王威未震。如能集四方兵力，并力一战，拿下河东，建立帝号，再挥师西南，攻克长安，然后以此为都城，征发关中之兵，取洛阳，灭西晋则易如反掌了。这也正是高祖皇帝创立基业的方略。”刘渊听了大喜，遂发兵攻克了蒲阪（今山西永济县）、平阳（今山西临汾市）据有河东全境。这时，中原起义的汲桑、王弥、石勒及鲜卑陆逐延等都纷纷归降刘渊，迅速在并州形成了各族人民共同反晋的巨大浪潮。

  公元304年8月，刘渊的堂祖父、右贤王刘宣看到晋庭大乱，互相残杀，以为反叛的时机已到，便对族人说：“自从汉朝灭亡以来，我们的单于都是徒有虚名，不再有一寸土地。其余的王侯，地位却降到与老百姓一样。现在司马氏骨肉亲人互相残杀，四海动乱如同鼎中沸腾的开水，光复呼韩邪的事业，这正是时候！”于是互相谋划，推举刘渊为大单于，并派他的心腹呼延攸到邺城去告知他。刘渊知道后，十分高兴，当时他正在邺城，便以会丧为借口要求北归会丧。司马颖不允许。刘渊只好密令呼延攸先回去，通知刘宣等人，让他们召集五部匈奴以及各小民族的积蓄力量，加紧准备，伺机反晋。

  公元304年8月初，刘渊找了个理由瞒过了司马颖，回到左国城(今山西离石)，刘宣等人立即给他上封大单于称号，二十多天时间，有了五万人马，建都离石县。10月，刘渊又将都城迁到左国城。。接着，刘宣等人请求刘渊上一个尊号，刘渊说：“现在四方都没有平定，暂且按照汉高祖那样称汉王吧。”于是，刘渊祭天于南郊，登上汉王王位，宣布大赦，改元元熙。

  永嘉二年（308年），刘渊正式称帝，迁都平阳，建国号为大汉。宗室刘氏以亲疏远近为等级，都封郡县王，异姓以谋谟战功相次封为郡县公、侯。以刘宣为丞相，刘宏为太尉，刘和为大司马，刘欢乐为大司徒，呼延翼为大司空，呼延攸为宗正。

  这年冬天，刘渊派刘聪、刘曜、刘景率五万精骑进攻洛阳，西晋东海王司马越派参军孙询、将军丘光率兵拒阻，汉军败还。

  永嘉四年（310年）七月，刘渊病重，以陈王刘欢乐为太宰

  公元304年8月初，刘渊找了个理由瞒过了司马颖，回到左国城(今山西离石)，刘宣等人立即给他上封大单于称号，二十多天时间，有了五万人马，建都离石县。10月，刘渊又将都城迁到左国城。。接着，刘宣等人请求刘渊上一个尊号，刘渊说：“现在四方都没有平定，暂且按照汉高祖那样称汉王吧。”于是，刘渊祭天于南郊，登上汉王王位，宣布大赦，改元元熙。

  永嘉二年（308年），刘渊正式称帝，迁都平阳，建国号为大汉。宗室刘氏以亲疏远近为等级，都封郡县王，异姓以谋谟战功相次封为郡县公、侯。以刘宣为丞相，刘宏为太尉，刘和为大司马，刘欢乐为大司徒