公元304年，刘渊打着光复汉室的旗号，在左国城重新建立起匈奴政权，而宗庙也不在供奉冒顿以及呼韩邪那些匈奴的单于，而是供奉着汉朝的两位皇帝，因为刘渊认为冒顿这些匈奴的单于他们的成就实在不值得他去效仿，他要成为像汉高，魏武这些中原的帝王一样的人物，而他也相信自己能有这样的成就。刘渊后来也确实做到了这样的成就，公元308年，刘渊经过几年的征战，终于称帝，改元永凤。
刘渊的汉政权发明了中国史上最早的“一国两制”，也就是胡汉分治制度，用汉魏制度治理归附的汉人，而用匈奴胡人旧制。刘渊很重视皇子们学习汉学。其中长子刘和、四子刘聪、养子刘曜最为突出。刘渊任命四子刘聪为“大司马、大单于、并录尚书事，置单于台于平阳西。”大司马是汉魏官职，从汉武帝罢太尉而设大司马以来，这一直都是最重要的军事首长。刘聪被任命为大司马，意味着他是匈奴汉国军事上的一把手。
刘渊称帝两年后，公元310年，就病逝了。太子刘和即位，刘和这个人确实也很能干，但是“内多猜忌，驭下无恩”。刘渊儿子数量虽不多，但势力不小，大都担任中央文武要职，更为重要的是，刘渊诸子都掌握大量军队。刘和即位之后，就要面临着诸王权力过大威胁皇权的问题。
由于卫尉西昌王刘锐、宗正呼延攸没有进入刘渊临终安排的顾命大臣名单，所以心怀怨恨，故而怂恿新君刘和削藩，首要目标便指向四子刘聪。刘和听了刘锐和呼延攸的话，准备对四弟大司马刘聪下手。没想到刘聪早有准备，率军从平阳西明门攻进皇宫，并于光极殿西室杀害刘和，又收捕逃到南宫的呼延攸等人，并将他们斩首示众。刘聪虽然说是弑君夺位，但这也大多也是被逼的，难道眼看着自己的亲哥哥就是杀死自己了，难道还要把自己送上去给别人杀而不反抗吗？
刘聪的母亲是张夫人，只不过是刘渊的妾世而已，所以他只能算是庶出。如果要论出身的话，刘聪是很难当上这皇位的。而当时刘渊在位的时候，就因为刘乂的母亲是出身氐族贵族的单皇后，所以有意要他继承皇位，而刘乂是个明白人，知道如果自己继承这皇位的话，他的四哥哥肯定不会同意了，说不定最后还会被他杀了，所以索性不做这个皇帝，最后当然就是刘聪当了这个皇帝了。刘聪即位之后，就改元光兴，尊刘渊妻单氏为皇太后，把他的母张氏封为帝太后，而他的妻子呼延氏为皇后，以子刘粲为抚军大将军，都督中外诸军事。为了表示姿态，刘聪立了弟弟刘乂为皇太帝，说等以后还会把皇位传给弟弟。
其实刘乂要比刘聪小很多，他母亲单太后非常年轻，长得也漂亮。如果按照匈奴传统的收继婚，刘聪都可以把单氏收归自己后宫，但是匈奴汉国毕竟不是当年的草原匈奴部落，早就已经宣称是大汉王朝的继承人，得遵守汉律，不能逾越伦理之线。就是这么巧，刘聪和这位美丽的太后单氏还好上了，一个匈奴，一个氐族，倒也和他们原先的部落传统不冲突。但是，刘乂却受不了，他是汉化教育成长的皇子，最后竟逼得单太后受羞愧自杀。到了后世唐朝，李世民也是杀兄屠弟，夺了皇位，最后还霸占了弟弟李元吉的妃子，这和刘聪的上位多么的相似。
閱讀更多 楊老頭看世界 的文章
