杨坚很长时间里都招揽机构和人口搬迁到新的首都来。他是宗教的慷慨资助者，把黄金地段留给京师佛道寺观：南北大街的东面有整整一个坊都是大兴善寺。而它的对面是道教的玄都观。杨坚鼓励人们出资建造佛寺和道观，对那些资助建造的建筑商赐御制的牌匾。二十年以后，整座城市里有一百多座佛寺和道观。
除了宗教设施外，杨坚命令皇亲国戚、大小臣工带头，把府邸搬到新城来。
消灭了南陈后，杨坚将南方的精英共十几万人迁到了新都城之中。但新的都城占地数十平方公里，实在太大了，直到隋朝灭亡的时候：新长安城的大部分地区依然荒无人烟，所建工程尚未竣工。
尽管如此，杨坚在新家里的感觉异常良好。杨坚年幼的时候曾被北周王朝封为大兴郡公，所以用封地的名字命名新都城为大兴城。
大兴，大大的兴旺，很对一个崭新的王朝的胃口。
名家回眸
梁启超说：杨坚冲刺皇位的道路，并非全部是从阴谋走向诡计，从杀戮走向杀戮的简单重复，他的的确确作出了许多成绩。不过，这还要归功于荒唐皇帝宇文赟把国家治理得太差，留给杨坚一个很差的参照物。杨坚只要作出一点小小的成绩，相比较之下，就成了“丰功伟绩”。
励精图治，锐意改革
北周建德六年（577年），周武帝灭掉北齐，统一了中国北方。但周武帝未及收拾残局，第二年就因病去世了。继位的周宣帝荒淫残暴，实施严刑酷法，强征劳役大兴土木，滥杀宗室与大臣，使社会各种矛盾严重激化。所以，隋文帝杨坚成功地取代北周，建立隋朝以后，面临的是一个矛盾重重、百废待兴的局面。
他即位以后，在政治、军事、经济、文化诸方面进行了一系列的改革。
首先是改革官制。北周的官制有复古的倾向，模仿《周礼》设置六官。开皇元年（581年）二月，少内史崔仲方向隋文帝建议废除周六官，恢复汉魏旧制，被隋文帝采纳。中央设置三师、三公及尚书、门下、内史、秘书、内侍五省。
三师无具体职责，不置官府，没有属官，只授予德高望重的大臣，有时与皇帝论学聊天而已。三公设置官府，配备僚属，地位很高，也可以参议国家大事，但因规定“无其人则阙”，所以实际上也是形同虚设。秘书省是专业性较强的学术、事务机关，内侍省由宦官组成。因此，中央最高政权机关是尚书、门下、内史三省。三省各有分工，互相牵制。内史省是决策机关，长官是内史监和内史令，各一人；门下省是审议机关，长官是纳言二人；尚书省是执行机关，事无不总，长官是尚书令及左、右仆射各一人。三省长官共为宰相。由于宰相人数众多，加之各有分工，互相牵制，它起到了两个方面作用，一方面决策过程趋向科学化，而且达到了集思广益之目的；另一方面，相权一分为三，便于皇帝控制，避免了宰相的专权，防止了宰相篡权之事在隋朝重演，使皇权得到了加强。尚书省下分设吏、礼、兵、都官、度支、工等六部。开皇三年（583年），又改都官为刑部，度支为民部。各部设尚书一人，总管部务。六部尚书与尚书令及左、右仆射共称为八座。吏部负责官吏的选拔、考核、迁转等；礼部负责朝仪、祭祀、礼宾；兵部负责军政；刑部负责司法；民部负责户籍财政；工部掌管营建工程。
五省之外，又有负责监察百官的御史台，长官是御史大夫；掌管天下水利、渡口、船桥的都水台，长官是都水使者；太常、光禄、卫尉、宗正、太仆、大理、鸿胪、司农、太府、国子、将作等十一寺，分管各项事务，国子寺的长官是国子祭酒，将作寺的长官是将作大匠，其他九寺的长官为卿。又置左右卫、左右武卫、左右武候、左右领、左右监门、左右领军等十二府，各设大将军一人，分领内外军宿卫。
以上各部门及其职称并非隋代首创，例如三省六部，在隋朝以前就已出现，但职权界限和名称都不大稳定，隋文帝是把三省六部作为一种体制加以确立，并且奠定了唐、宋官制的基础，而六部制，则一直沿袭到清末。
其次是简化地方行政。秦始皇统一六国后实行郡县两级制，但从东汉开始，地方行政形成了州、郡、县三级政权，到南北朝后期，州郡数目特别多，例如北周末年，有二百一十一个州，五百零八个郡，县的数目就更多了。机构重叠、官员数量庞大的结果是办事效率差，人民的负担也重。开皇三年，河南道兵部尚书杨尚希针对这一情况，向隋文帝上表说：“如今郡县的数目比古时候多出好几倍，有的地方方圆不到百里，数县并置，还有的两个郡管辖的民户加在一起尚不足一千。民少官多，就像十只羊有九个牧人一样。官僚人众使支出日益增多，吏卒倍增使租调年年减少。良才本来就很稀少，郡县所需数万官员到哪里去寻觅？
所以应该存要去闲，并小为大，这样既可节省国家的财政支出，又可优化地方官员。”太子少保苏威也建议废郡。于是这一年的十二月，隋文帝正式下令废除郡一级行政，五百多个郡被撤销，同时还裁撤了一批小州小县。这样，变六百余年的州郡县三级制为州县二级制，减少了很多官吏，提高了办事效率，也相对减轻了农民的负担，同时也便于中央对地方的控制。
第三是改革官吏的选拔、任用制度。隋文帝尽管没有明确废除九品中正制，但这一制度已名存实亡。取而代之的是开皇七年（587年）正月，下令诸州每年举荐三名贡士。开皇十八年（598年）七月，又下诏令五品以上京官以及各州总管、刺史，“以志行修谨、清平干济二科举人”。隋文帝选拔官吏方法的改革，为科举制的产生奠定了基础。但在当时，依魏晋以来之遗风，据门第高低选人的现象也时有发生，一旦发现，隋文帝即予以惩治。如代理吏部尚书卢恺在选用官吏时，讲求门第而不按照才能，竟被隋文帝撤职查办。
在地方中下级官员的任用方面，隋文帝还废除了州郡辟举制。自汉朝以来，州、郡、县的长官是由中央政府任命，另外，地方长官的几个主要副手也由中央政府委派，其他的僚佐则全由地方官在本地任意选用，所以，地方政权多被当地的大姓豪强所把持。隋文帝将地方官自辟僚佐的权力收归中央，较高的官员由吏部尚书负责选用，下级官员由吏部侍郎负责选用，凡九品以上地方官一律由中央实行任免。开皇五年（585年）二月，隋文帝做出规定，各州刺史及长史、司马每年岁末朝集京师，由吏部对其政绩进行考核，予以黜陟。以后又规定，刺史、县令三年一迁，佐官四年一迁，不得连任，而且仕人不得在本地做官，以防枉法徇私。
第四是减轻刑罚，制定《开皇律》。开皇元年，隋文帝夺取政权以后，命令尚书左仆射高颎、上柱国郑译、杨素，大理少卿常明，刑部侍郎韩浚，比部侍郎李谔，兼考功侍郎柳雄亮，率更令裴政等人全面系统地修订法律。裴政熟习历朝典故，当时参加修订法律的十余人中，凡有疑难问题都向他请教，高下取舍也多由他裁决。所以，裴政在修律的十余人中地位虽不算高，其实是核心人物。十月十二日，新律修成，颁布实行。新律的基本精神是“以轻代重，化死为生”，废除了前代枭首、轘裂、孥戮、鞭刑、宫刑等酷法和谋叛罪以下的收族之罪。隋文帝在颁布新律的同时还规定，百姓如有冤屈者，可以逐级上诉，若上诉至尚书省仍不予受理，可诣阙敲响登闻鼓，直接向皇帝申诉。对死刑尤为慎重，后来做出规定，诸州所判死罪，不得立即执行，须移送大理寺复核，然后上报刑部批准。
执行死刑时，需上奏三次，方可行刑，以防止冤案发生。
开皇三年年末，隋文帝阅览刑部上奏，发现当年定罪的案件数目达一万，认为这是法律过于严密所致。于是命令苏威和秘书监牛弘等人对刑律加以改定，除去死罪八十一条，流罪一百五十四条，徒罪、杖罪等千余条，删繁就简，定留五百条，编为名例、卫禁、职制、户婚、厩库、擅兴、贼盗、斗讼、诈伪、杂律、捕亡、断狱等十二篇，这就是隋《开皇律》的定本。《开皇律》被史家誉为“刑网简要，疏而不失”，对后世影响很大，着名的《唐律》就是在《开皇律》的基础上修订的。所以《开皇律》尽管早已失传，但它在中国法制史上具有重要地位。
第五是改革府兵制。由于府兵连同家属都入军籍，可以不交纳租税，于是有些人为逃避赋税就冒充府兵家属挤入军籍。针对这种情况，开皇十年（590年）五月，隋文帝发布诏书说：“魏朝末年，因天下大乱，战争不断，军人南征北战，无固定居处，没有土地房产，像流民一样，实在是值得同情。从今以后，军人户籍一律属所在州县，享受与当地百姓一样分配土地的待遇。”隋文帝对府兵制的这一改革具有重要意义，首先扩大了兵源，府兵不再局限于原来只有军籍的人。另外，将府兵制与均田制密切结合起来，实现了兵农合一，既有利于发展生产，又扩大了政府的赋税来源。一般认为，府兵制的发展划分为前后两期，前期为鲜卑兵制，为大体兵农分离制，为特殊贵族制；后期为华夏兵制，为大体兵农合一制，为比较平民制。而前后期的分界线则是隋文帝对府兵制的改革。
第六是调整赋役。开皇三年，下令将成丁年龄由十八岁提高到二十一岁，每人每年服役天数由三十天减为二十天，调绢由一匹减为二丈。北周实行盐酒专卖，盐池、盐井禁止民间开采，酒也是由官方经营，隋这时也罢去盐、酒专卖，深得民众拥护。开皇十年六月，隋文帝又令五十岁以上丁可用交纳绢布等实物的方法代替服役。
对赋役的上述调整，减轻了农民的经济负担，从整体上缩短了农民服役的时间，可以使农民将更多的时间投入到农业生产上去，对隋代社会经济的发展是有利的，特别是“免役收庸”制的出现，虽然还只是局限于五十岁以上的人，但可以模糊地看出由劳役地租向实物地租的转变，为唐初“输庸代役”制的出现开了先河。
第七是整理户籍。南北朝以来，户籍十分混乱，为逃避繁重的赋役，有的整家整户地逃亡脱籍。例如原北齐地区，被称为“避役惰游者”竟占当地人口的十分之六七；有的谎报年龄，诈老诈小；有的一个宗族或乡党聚集在一起，只报一个户口，即所谓“百室合户，千丁共籍”。上述遗风至隋初尚存，严重影响政府的财政收入。为改变这一现象，隋文帝在减轻赋役的同时，大力整顿户籍。开皇初年，全国人口不满四百万户，到隋文帝末年，全国人口达到八百多万户，翻了一番多，这样赋税收入也就增加了，增强了国力。
第八是设置义仓。开皇五年五月，民部尚书长孙平见天下州县多遭水旱之灾，百姓饥馑，于是上书曰：“国以民为本，民以食为天。古时候，耕作三年可余下一年的积蓄，九年就可储备三年的粮食。虽遇水旱之灾，而民无菜色，这就是由于劝导有方，事先有充足的储备的原因。去年关内大旱，庄稼歉收，陛下运来关东地区的粮食，并开发仓廪，赈济百姓，才使饥民渡过难关，这充分显示了陛下的仁政。但治理国家，不能临渴而掘井，需未雨而绸缪。请下令诸州刺史、县令，功课农桑，做好粮食储藏工作。”隋文帝采纳了长孙平的建议，命令诸州百姓在每年秋天根据贫富状况上交数量不等的粟麦，储于村社，名为义仓，又称社仓。若遇灾年，当社有因饥馑不能存活者，即以义仓之谷赈给。自此以后，各州都积蓄了大量粮食。开皇五年以后，关中地区连年大旱，而关东地区遭遇大水，到处都是饥民，隋文帝派苏威等人分道开仓赈灾，使贫下之民深受其惠。
第九是统一货币和度量衡。北朝后期，币制十分混乱，官方发行的钱币就有四种之多，民间私铸之钱，品类更加繁杂。开皇元年，隋文帝下令铸造五铢重的铜钱，名曰五铢钱，一千枚五铢钱重四斤二两。在四面诸关各置样钱百枚，从关外来的商旅行人所带钱币都需经过勘验，与样钱不同者，一律没收，熔化为铜。
新钱铸成后，虽然明令旧钱一律禁止使用，但北周的五行大布钱、永通万国钱和北齐的常平钱等由于百姓习用已久，在民间贸易中仍然流行，私铸钱币事件亦时有发生。开皇四年，隋文帝下诏，若旧钱再不能禁止，或再发生私铸事件，罚当县县令半年俸禄。开皇五年正月，隋文帝又下诏严禁。从此以后，货币始归统一。隋文帝又规定以古尺一尺二寸为一尺，以古斗三升为一升，以古称三斤为一斤，通行全国。货币及度量衡的统一，方便了民间贸易往来，促进了当时社会经济的发展。
第十是提倡朴实文风。东晋、南朝以来，文风趋向奢华，流行骈体文，讲究对仗和平仄，辞藻华丽、工整，读起来朗朗上口，但思想空洞，缺乏实际内容。
这种文风，也浸染北方文坛。隋文帝十分厌恶这种浮华的文风，曾下诏令，天下公私文件信函不许使用骈体，而用写实的散文。治书侍御史李谔是隋朝朴实文风的积极倡导者，向隋文帝上奏说：“曹操父子三人崇尚词藻，作文不注重内容，好雕虫之小技，上行下效，遂成风俗。齐、梁两朝其弊最甚，朝野文士为一韵而 争奇，为一字而争巧，连篇累牍，竟无一句实词，积案盈箱，唯写风云之状，世俗以此为高，朝廷据此选士。既可名利双收，士子趋之若鹜，文风愈加浮华。
将宿儒视为古拙，推文词之士为君子。因此，公文日益繁琐，行政愈加混乱。今朝廷虽有诏书，文禁浮华，但外州远县弊风仍盛，轻薄为文之人选充吏职，仁孝敦厚之士不加收用，这都是因为刺史、县令不遵风教之故，请治刺史、县令之罪。”李谔的奏文被隋文帝颁示天下。开皇四年（584年）九月，泗州刺史司马幼之因文表华艳被御史台治罪。由于隋文帝的大力提倡和强制推行，六朝靡丽的文风略有扭转。
隋文帝在开皇年间所进行的改革大致就是上述十项，旧时史家在评价隋文帝时曾说：隋文帝躬节俭，平徭赋，仓廪实，法令行，君子咸乐其生，百姓各安其业，没有以强凌弱、以众欺寡之事，人口众多，百物丰富，朝野欢娱。二十年的时间里，天下安定，一片升平气象。所以历史上将隋文帝的统治称为“开皇之治”。史家所言虽不免夸张，但也有一定的事实根据。隋文帝统治的二十多年间，人口由不足四百万户增至八百多万户，各大粮仓储积的粮食多者一千多万石，少者数百万石，各地义仓的粮食也都堆得满满的，京师长安及并州（今山西太原）府库里的布帛各有数千万匹、段，到隋文帝末年时，全国的粮食、布帛储备可供五六十年之用。国库如此充裕，是魏、晋以来几百年没有过的，几乎达到了盛唐的水平。
名家回眸
吉同钧说：唐朝“开元盛世”的出现，是在建国一百多年以后，而隋朝仅用了二十多年的时间。隋朝经济发展、社会强盛的原因虽有多种因素，但隋文帝励精图治、锐意改革之功不可没。