大业十三年（617年），反隋部队已经占据了大隋的半壁江山，隋炀帝所在的江都（今江苏扬州）已经被孤立。
大业十三年（617年）农历二月，马邑鹰扬府校尉刘武周发动兵变，杀死马邑太守王仁恭，据马邑而自称天子。农历三月，刘武周攻破楼烦郡，进占汾阳宫，并与突厥勾结，图谋南下争夺天下。
消息传到李渊耳朵里，李渊大惊：“这真是出人意料，没想到王大人没死在战场上，却死在了一个小小的校尉手上。”
皇帝的使者突然到来，喊道：“圣旨到，李渊接旨。”
李渊：“臣接旨。”
“奉天承运，皇帝诏曰，马邑鹰扬校尉刘武周叛变，杀死马邑太守王仁恭，马邑属李渊治下，李渊责无旁贷，现命李渊即刻动身，赶往江都前来请罪，限期一个月内到达，不得有误，钦此。”
那群使者走后，李渊回顾身边的人。
李世民说：“爹，事情紧急，可以起事了。”其周围的心腹裴寂、许世绪等也纷纷劝李渊起兵。
李渊：“杨广这招请君入瓮为的是除掉我们李家，我们绝对不可以坐以待毙，我决定立刻起兵，废掉昏君杨广，为我大隋另立明君。”
众人：“支持唐国公，废除昏君，另立明君。”
李渊：“为防备刘武周和突厥南下，我决定派世民和刘文静等到各地募兵，以保卫边境。”
李世民等人：“是。”
大业十三年（617年）农历七月，李渊募集到足够起事的军队，在太原校场上进行誓师。
李渊：“众将士，杨广乃无道昏君，他听信谗言，残害忠良，致使忠义之士无辜惨死。还有穷兵黩武，连年对外用兵，致使大隋精锐尽丧，百姓很多沦为孤儿寡母。今日我在此起兵，讨伐昏君，另立明君，重振大隋。”
众将士：“讨伐昏君，重振大隋。讨伐昏君，重振大隋……”
李渊：“李建成和李世民听令。”
李建成：“末将在。”
李世民：“末将在。”
李渊：“命你们各率一支部队南下攻破霍邑（今山西霍县），让我们得以完全掌控山西。”
江都城皇宫内，杨广还在饮宴，周围一片歌舞升平的景象。
来护儿突然急匆匆地跑到杨广面前，“皇上，大事不好了。”
杨广：“出什么事了？”
来护儿：“李渊叛变了。”
杨广：“你说什么？”
来护儿：“你没有听错，李渊确实叛变了。他目前正派兵进攻霍邑的宋老生，企图度过黄河。”
杨广：“速调精兵前去镇压。”
来护儿：“皇上，我军在关内的守军力量薄弱，力有未逮。依臣愚见，我们应当速回关中，以定天下。”
杨广：“知道了，你先退下吧，让朕再想想。”
信使：“报，紧急军情。”
杨广：“何事？”
信使：“王世充将军率兵与瓦岗反贼激战，目前占据了上风。”
杨广：“哦，那实在太好了。传朕旨意，让王世充尽快剿灭瓦岗反贼，然后去镇压李渊叛变。”
信使：“是。”
杨广在接到王世充的战报后，坚定了留在江都的决心。江都是杨广在位期间苦心经营之地，在他眼里，江都就是他的京城，而西都长安（当时也叫大兴城）和东都洛阳在杨广看来都只是陪都。
中原瓦岗军与王世充激战多日，暂时未分胜负。因此李渊趁机进军，大业十三年（617年）农历十一月间，李渊攻入长安。
李渊召集群臣，宣布：“各位，杨广无道，我今日就另立明君，现拥立代王杨侑为皇帝，称号为隋恭帝，改元义宁，遥尊隋炀帝为太上皇。”
李渊当即对杨侑跪下行李，喊道：“臣参见皇上，皇上万岁。”
群臣也跪下行李，喊道：“参见皇上，皇上万岁。”
李渊把事先准备好的圣旨交给杨侑，“皇上，请宣读圣旨。”
杨侑战战兢兢地打开圣旨，读了起来：“奉天承运，皇帝诏曰。唐国公李渊忠君爱国，劳苦功高。故朕进封李渊为唐王，兼任大丞相、尚书令。同时封唐王长子李建成为世子，次子李世民为京兆尹……”
在一系列加封完毕后，李渊满意地喊了声：“谢主隆恩。”然后就把杨侑扶上了龙椅。
李渊另立新帝的消息很快就传遍天下，远在江都的杨广气的暴跳如雷，接连发出好几道圣旨，催王世充尽快剿灭瓦岗反贼，速去征讨李渊。
江都城，东门口。
守城的士兵们听闻各地反叛的消息后议论纷纷。
士兵甲：“听说唐国公李渊也叛变了，还另立了一个新皇帝。”
士兵乙：“听说李渊还占据了长安，我们大隋的西都已经沦陷了。还有东都洛阳好像也不容乐观，反贼的作战不利后，调集的援兵越来越多。我曾听说，瓦岗号称有八百万大军呢！”（这当然是夸大了，古代不可能有哪个王朝或起义军有八百万大军。）
士兵甲：“那我们的关中老家怎么办？如果被叛军占据，他们会不会烧杀抢掠啊？”
士兵乙：“这很难说，不过我听说李渊治军很严，禁止士兵烧杀抢夺，一路上很得民心。”
薛万彻内心独白：“没想到皇上还是没有扭转乾坤，大隋已经真正处于风雨飘摇之中了。想不到我与李公子相遇于患难，竟然会在将来刀兵相向。不，我不愿与他为敌，可我也不能背叛皇上，我该怎么办？”
他内心总以为杨广是受到奸臣蒙蔽，所以才贬他的职，他一直认为杨广待他不薄，所以在得知李渊起兵后，内心一直处于矛盾和痛苦之中。