公元578年6月，周武帝驾崩，周宣帝即位。
不久，杨坚的长女杨丽华做了皇后，水涨船高，杨坚很快升任上柱国、大司马，掌握了朝政大权。由于年少的周宣帝昏庸荒淫，在群臣中没有威信。于是，杨坚便考虑取而代之，自己也尝尝当皇帝的滋味。
周宣帝日夜享乐，为了满足自己的欲望，不顾朝臣的反对，修建洛阳宫，致使上下怨愤。杨坚见时机成熟，便开始做取代周室的准备工作。
杨坚的行动很快引起周宣帝的警觉，甚至曾想杀掉他。但杨坚始终不动声色，周宣帝既找不到借口，也不愿意随便杀死自己的岳父。
杨坚尽管表面不露声色，但内心对周宣帝的猜疑也感到不安。为逃避周宣帝的猜疑，也想在北周动乱时拥有实力，杨坚想暂时离开朝廷，到地方上去掌实权。公元580年，时机到来，周宣帝决定南伐。郑译便乘机向皇帝推荐了杨坚，由于皇帝对关西士族郑译向来都很信任，于是就任命杨坚为扬州总管。
这时，周宣帝病重，召见小御正刘防、御正中大夫颜之仪，准备托以后事。二人到时，周宣帝已经不省人事。然而，宣帝的长子宇文阐才8岁，离当皇帝的实力还远了点。其实，刘防早就被杨坚收买了，他为以后飞黄腾达，便找来郑译商议，共同拟定一个假诏书，声称周宣帝遗嘱，传位于宇文阐，即周静帝。并尊杨坚的女儿杨丽华为皇太后，让杨坚以皇太后父亲的身份总揽朝政，辅佐周静帝。
宣帝死后，刘、郑等人暂不公开，而是悄悄告诉了杨坚。
杨坚收到消息后，便以诏书的名义控制了京师卫戍军队，基本控制了朝廷。3天后，杨坚等人才正式宣布宣帝已驾崩的消息，8岁的静帝即位，以杨坚为假黄铖、左大丞相，掌握军事、政治大权。杨坚深知自己的地位还不巩固，需要采取一系列措施。
首先，建立自己的统治核心。杨坚自任丞相，设丞相府，又拉拢真正具备政治才能的高敏等一帮人作为自己的亲信。丞相府实际上已取代朝廷成为真正的决策机构。同时，杨坚还利用军队的力量暂时压服了尚未完全清醒过来的朝廷百官。
其次，除掉皇室宇文氏的势力。杨坚初执政时，周宣帝的弟弟宇文赞仍以皇叔身份居上柱国、右大丞相职，在朝廷中与杨坚平起平坐。杨坚指使刘防把他劝回家中，不要过问朝政，答应以后由他做皇帝，只需在家里等。宇文赞年轻无才，居然信以为真，欢天喜地地回家做皇帝梦去了。于是，杨坚轻易排除了皇室中潜在的干扰。
此时，真正的威胁割据一方的五个诸侯王。他们既有实力，又有影响，一旦起兵，杨坚根本无法控制。不过，杨坚早就有了对付他们的方法。在还没有公开宣帝的死讯时，他便找借口召这些王爷回到长安，收缴了他们的兵权印符。
所有的潜在威胁都去除了，杨坚便宣布废除周宣帝时的严刑峻法，停止洛阳宫的营建，以此取得臣民们的广泛支持。这样，他在京师的统治已基本稳固。接下来，杨坚一方面拉拢地方将领，对反对者进行分化瓦解；另一方面，投入自己所能控制的全部军队，经过半年的战争，地方武装反抗被全部平定，完全控制了北周政局。
公元581年，杨坚派人为周静帝写退位诏书，内容极力称赞自己功德，希望周静帝按照舜代尧、曹丕代汉献帝的典故，把皇位让给自己。周静帝只是个小孩子，当然任其摆布。很快，让位的诏书由朝廷大臣捧着到随王府送给杨坚。
杨坚假意推辞，经过朝廷百官的再三恳求，才同意接受。几天后，禅让仪式上，他穿戴上皇帝的龙袍，在百官簇拥下坐上皇帝的宝座。
于是，隋朝就这样建立了。
公元588年秋，杨坚共发兵50多万，东起海滨，西至四川，在整个长江沿线水陆并进，向陈国发动大举进攻。这时，陈国兵力不过数十万，而君臣仍生活在花天酒地之中。面对隋的全面进攻，陈后主陈叔宝及文武百官全部做了俘虏。晋武帝之后，200多年的分裂局面终于结束，全国再次统一。
点评
杨坚结束了自东汉以来长达数百年的分裂动荡局面，实现了全国统一。他废除九品中正制，开科取士，奠定了中国科举制度的基础。他对行政机构进行大刀阔斧地改革，创造出一套适合时代要求、有利于加强中央集权的政治制度。他创建的三省六部制和进行的一系列精简机构、裁汰冗官的改革，为以后历代所遵循。
他以身作则，严肃吏治的有效措施，促进了社会的高速发展。他实行均田制，提高了农民的生产积极性。而他减轻剥削和检查户口的办法，对促进经济发展和加强国力有重要作用。他继承了汉代以后的儒法兼用的统治手法，又掺进了不少佛家、道家的因素，这就使得他的文化政策更多包容兼蓄，而较少专宗一派。
他的功绩实在是说不完的。
因此，在中国历史上，杨坚是一位功名赫赫的开国皇帝。