赫连勃勃原名刘勃勃，是匈奴屠各部首领刘卫辰的幼子。北魏登国六年（391年）北魏攻匈奴，杀刘卫辰，刘勃勃被迫逃亡，先投奔了薛干部，不久投附后秦高平公、鲜卑族人没弈于，并娶其女为妻。后入长安，得到后秦皇帝姚兴的赏识，任命他为持节、安北将军，统领三交（今陕西榆林西）五部鲜卑两万余落。
407年，刘勃勃杀其岳父没弈于，吞并其部将，自称天王、大单于，因《史记》、《汉书》记匈奴为夏后氏的后裔，遂自称国号为夏。号龙升元年，夏纪元开始。
刘勃勃又因其姓刘源于母姓、汉宗室，认为帝王“继天为子，是为徽赫，实与天连”，于是改姓赫连，又令其庶部改姓“铁伐”，取“宗族子孙，刚锐如铁，皆可伐之”之意。赫连勃勃采用游击战术没有固定的驻地，给后秦造成极大的威胁。
第二年（408年），姚兴遣将伐夏，全军覆没。此后，夏开始由防守转为进攻，先后攻取了后秦的定阳（今陕西省宜川县西北），降安定（今甘肃省泾川县北），占杏城（今陕西省黄陵县西南）与上（今甘肃天水市），到后秦灭亡前夕，今宁夏全部、陕西北部及内蒙古河套地区都在夏控制范围内了。