晋怀帝永嘉二年（308年），匈奴冒顿单于直系后裔刘渊称帝，国号汉，改元永凤，迁都平阳（今山西临汾）。在290年晋惠帝即位，杨骏辅政时期，刘渊就被任命为建威将军、五部大都督，成为晋朝的北方守将和被晋朝承认的南匈奴最高统帅。刘渊努力推行法治，打击邪恶势力，恤贫济苦，以诚待人，在匈奴五部中树立起崇高的威望。晋惠帝永安元年（304年）八月，刘渊在离石（今山西离石县）起兵反晋，自称大单于。随着自己势力的逐渐扩大，把其他反晋武装先后收归到自己的旗下。为了进一步提高影响，加强自身的政治权力，永嘉二年（308年）冬十月，刘渊正式称帝。这是在西晋日趋衰败、各地流民纷纷起义反晋的浪潮中，中原建立的第一个少数民族政权。刘渊称帝后，废除了曹操以来的匈奴五部统治结构，恢复匈奴传统旧制。刘渊建立政权，再次把中原推向了战争和动乱，中国再次陷入四分五裂状态之中，但同时也对汉朝与少数民族的大融合起了促进作用。
