唐高祖即位以后，封李建成为太子，李世民为秦王，李元吉为齐王。三个人当中，数李世民功劳最大。太原起兵，原是他的主意；在以后几次战斗中，他立的战功也最多。李建成的战功不如李世民，只是因为他是高祖的大儿子，才取得了太子的地位。
李世民不但有勇有谋，而且手下有一批人才。在秦王府中，文的有房玄龄、杜如晦等，号称十八学士；武的有尉迟敬德、秦琼、程咬金等著名勇将。太子建成自己知道威信比不上李世民，心里妒忌，就和弟弟齐王元吉联合，一起排挤李世民。
建成、元吉知道唐高祖宠爱的一些妃子，就经常在这些宠妃面前拍马屁送礼，讨她们的欣喜而李世民没有这样做。李世民平定东都之后，有的妃子私下向李世民索取隋宫里的珍宝，还为她们的亲戚谋官位，都被李世民拒绝了。于是，宠妃们常常在高祖面前说太子的好话，讲秦王的短处。唐高祖听信宠妃的话，跟李世民渐渐疏远起来。
表面上，兄弟三人还很和睦，可背后，李建成时时想除掉李世民。有一回，李渊外出狩猎，由三个儿子陪同，李建成有一匹烈马，虽然跑得快，却有个致命的弱点：前腿软，在奔跑当中会突然跌倒，李建成让李世民骑着这匹马追猎。李世民不知这匹马的毛病，骑上马追赶一只鹿。这马速度超群，比鹿还快。眼看就要追上鹿时，蓦地马失前蹄，李世民猝不及防，从马背上翻下，说时迟，那时快，李世民一个前空翻，稳稳站在地上！
李世民是聪明人，马上明白大哥要用这匹马来暗害他。但是，李世民不在乎，因为，这几年东征北讨，他多数时间是在马背上度过的，练就了一套骑马的本领。所以，他又翻身上马，继续奔跑。连续掉了三次，没碰破一点皮！李世民把马交还给李建成的侍卫，对站在一边的宇文士及说：“想用马暗害我，可惜生死有命，枉费心机！”
李世民有意让李建成听到这句话，以起到警告的作用，然而，李建成却这将这句话篡改成：“李世民有天子命，将来要当皇帝，不能随便就死了”，让尹德妃和张婕妤在李渊面前吹风。李渊一听，很生气地对李世民说：“你想做天子，我还没死呢，也太着急了吧！”李世民一听，也不辩解，摘下王冠，让父皇派人调查，如真说过此话，甘愿受死。
李渊还要训斥李世民，中书令封德彝急忙进来，说突厥颉利可汗和突利可汗联合起来，进攻州（今陕西彬县、旬邑一带）。李渊吃了一惊，想一想，还得二儿子李世民率兵去打突厥。于是给李世民戴上王冠，让他以国家为重，带上李元吉去讨伐突厥。
李世民一行来到州，与突厥对阵。李世民决定只带百名骑兵出阵与突厥数万大军对话，让李元吉一同去，李元吉不敢去。李世民来到突厥阵前，与突利可汗对话。他胸有成竹，因为了解两位可汗的情况，也知道他们之间存在矛盾，所以，据理阐明利害，认为以和为贵，句句话说到突利可汗的心里，加上逢连雨天，不宜交战，突利可汗便让叔叔思摩到唐营议和，并表示愿同李世民结为兄弟，于是，突利可汗撤兵而回。
颉利可汗见突利可汗收兵，觉得自己力量太弱，打也赢不了，也只好退兵。州退敌兵，李世民不伤一兵一卒，不用一矢一刀，仅凭一番话，就达到目的，其智其勇，非一般人能比，使朝廷上下的人无不为之叹服！
武德九年（公元626年）六月的一天，李建成请李世民到东宫喝酒，几杯酒下肚，李世民突然肚子剧痛，回到自己住的西宫以后，吐起了血。御医给他服了药，才渐渐好了。
李渊得到消息，猜想是大儿对二儿下了毒手。尽管如此，仍然不忍心废掉太子，又不想让二儿再受伤害，想了一个他自认为两全其美的办法：派李世民去洛阳，管理陕州以东的州郡。李世民觉得这样也不错，就答应了。李建成和李元吉听到这个消息，非常紧张，认为让李世民去洛阳是放虎归山，便找一些大臣向皇帝上书，说李世民去洛阳不会回来，有分裂国家的危险。李渊一听觉得有理，便再次出尔反尔。
李建成、李元吉一计不成，又生一计，拉拢李世民手下的亲信将领。首先看好尉迟敬德，李建成派心腹送给敬德一车金银珠宝，说明来意，尉迟敬德拒收金银，送走来使，便向李世民报告了。李世民说：“将军从今以后要处处留神，他们不会饶过你的！”果然，当天晚上就有刺客来到尉迟敬德住处，但见房门大开，知有防备，吓得没敢进屋就跑了。
暗的不行，就来明的，李建成在皇帝面前诬告尉迟敬德，将他关进监狱，准备杀害，李世民在父皇面前慷慨陈词，历数尉迟敬德的功劳，李渊只好把他放了。
李建成想扫除李世民及其亲信，达到他的目的，各种手段一齐使用。收买这一招失灵后，并不气馁，又向皇帝密告李世民的天策府谋士房玄龄、杜如晦行为不轨，应将他们逐出天策府；派李世民部下大将程咬金去康州（今广东省德庆）任刺史。程咬金虽是武将，却也粗中有细，看出问题，他对李世民说：“我至死不去康州，要保护大王。大王的羽翼一旦除尽，就该谋害大王了，请大王尽早决断！”
李世民意识到形势的严峻，召集天策府文官武将商讨对策。这时，边境传来消息，突厥又来入侵，李建成荐举李元吉率兵出征，并将李世民部下尉迟敬德、程咬金等大将一齐杀掉。李世民将此事告诉李渊，李渊要第二天亲自审问，让李世民、李建成、李元吉等人同时参加。
李世民一次次的忍让，达到了极限。现在不仅是个人生死的问题，而是关系到唐朝江山将来落在谁手、向何处发展的大问题，他决定狠下心来反击了。当天深夜，李世民和长孙无忌等将士埋伏在玄武门下。天刚蒙蒙亮，李建成和李元吉骑着马进宫，觉得四周情形与往日不同，李建成回马要走，李世民从墙后出来召呼他。李元吉做贼心虚，想先下手为强，摘弓搭箭，射李世民射去。不知是他心慌力弱，还是神灵保佑李世民，李元吉连发三箭，箭箭射空。
李世民不再迟疑，对准李元吉拉满了弓，李建成见状高喊：“四弟小心……”话未说完，李世民射出的狼牙箭直奔他而来，李建成猝不及防，咽喉中箭，从马上掉下身亡。与此同时，喊声四起，尉迟敬德率领70名骑兵如从天降。李元吉催马便跑，尉迟敬德张弓一箭，射中他后心，当场毙命。
这就是著名的玄武门事变。李渊知道消息，也无可奈何，在这种情形下，只好立李世民为太子了。
魏征是李建成所在东宫的官员，经常给李建成出谋划策，此时被抓到李世民面前，将领们准备让李世民审问完后杀掉。魏征在李世民面前，大义凛然，无所畏惧。李世民佩服他的胆略和才能，没有杀他，而且还让他在东宫做官；对前东宫和李元吉齐王府的官员都不追问，使这些官员感激涕零。
此时唐朝大权已掌握在新太子李世民手中。李渊于当年八月，主动传位给李世民，李世民推辞不过，只好同意，于是，在东宫显德殿举行交接仪式之后，李世民即位当了皇帝，即唐太宗。李渊被尊为太上皇。
李世民是年28岁，改元贞观，第二年为贞观元年。历史上把这次政变，叫做“玄武门之变”。