隋炀帝第三次南下江都时令唐国公李渊留守太原。大业十二年（616年）底至十三年初，李渊见隋朝江山气数已尽，便以讨伐叛军为名，下令募兵，扩充了一支万人大军。炀帝亲信王威、高君雅等人见此情状，密图诛杀李渊。李渊于是先下手为强，先于五月癸亥夜，铲除了王、高及其党羽。次日，李渊在太原开大将军府，自称大将军，编士众为三军，号为义师，起兵反隋。七月，李渊集结了三万精兵，并兵分两路，由李建成、李世民分别率领从太原出发，向西攻取关中之地。
