洪武三年，朱元璋指出：“夫元氏之有天下，固由世祖之雄武，而其亡也，由委任权臣，上下蒙蔽故也。今礼所言不得隔越中书奏事，此正元之大弊也。君不能躬览庶政，故大臣得以专权自恣。”他之所谓的“躬览庶政”，就是指皇帝要亲预朝政。本来如完全遵照元制，各种政事的处理在中书省便已基本定案，至皇帝处批准就行了。而将政事公文直接递交皇上，越过中书省，也就违背了元制逐级奏请的定制。朱元璋在这里提出要亲预朝政，就意味着他允许这种逾制，将一部分本由中书省处理的政事揽在身上，这标志着他着手削弱中书省的权力职能，进一步扩大皇权的开始。
至洪武九年六月，经过六年的经验准备和思想准备之后，他下令改行中书省为承宣布政使司，废除行省平章政事、左右丞等官职，改参知政事为布政使，以“掌一省之政”。主要管民政和财政。布政使是皇朝派驻地方的使臣，朝廷的政策、法令和派给地方的多种任务，通过他们下达各府、州、县的地方官员。全国除南京为京师直辖外，分为浙江、江西、福建、北平、广西、四川、山东、广东、河南、陕西、湖广、山西十二个布政使司，随着云南的平定，又增设云南布政使司，共为十三个布政使司。各布政使司的管辖范围与元朝行中书省相仿，但不包括各处的卫所。相较而言，布政使司的职权比元朝的行中书省大大缩小，性质也发生了改变，布政使司的长官是朝廷分派各地的使臣，凡事皆需秉承皇帝意旨，使地方的权力集中于中央，有效地避免了各地的擅权自专。
在承宣布政使司之外，各行省还设提刑按察使司，以按察使为长官，掌一省刑名按劾之事。又设立都指挥使司，以都指挥使为长官，管辖所属卫地，掌一方军政。都指挥使司与布政使司，提刑按察使司同为朝廷设在地方的派出机构，合称“三司”。三司互不统属，在地方三司分立行使各自职权，均由皇帝直接指挥。凡遇重大政事均需由三司会议，上报给中央的部院。这样不仅削弱地方的权力，强化了中央集权，而且各地方机构职能专一，互相牵制，既力口强了统治效能，又便于皇帝直接控制。对布政使司之下的地方政治机构，朱元璋也加以极大地简化。将元朝的路、府、州、县归并为府、县二级，除府、县外，个别保留州的建制，分府属州和直隶州，地位分别等同于县、府。这样，地方政权的层次简化减少，皇帝命令的逐级下达也就通畅起来。
接着，朱元璋又回过头来对中央机构进行进一步的改革。由于洪武初期先后发生的李善长为代表的淮西集团把持朝廷事件和胡惟席党案，朱元璋感觉到元朝丞相制度是君主专政的障碍，为此他说：“昔秦皇去封建，异三公，以天下诸国合为郡县，朝廷设上、次二胡，出纳君命，总理百僚。当是时，设法制度，皆非先圣先贤之道。为此，设相之后，臣张君王威福，乱自秦起。宰相权重，指鹿为马。自秦以下，人人君天下者，皆不鉴秦设相之患，相人而命之，往往病及于郡国者。”及至洪武十三年正月，左丞相胡惟庸因“谋危社稷”被处死，朱元璋对大臣们宣布道：“朕欲革去中书省，升六部，仿古六卿之制，仰之各司所事，更五军都督府，以分领军卫。如此则权不专于一司，事不留于塞蔽。”接着便废除了中书省和丞相，将中书省的权力分属于吏、户、礼、兵。刑、工六部，将各部尚书由原先的正三品升至正二品，侍郎由正四品升为正三品，下属郎中、员外郎。
六部职权加重，同时又分司政务，取代中书省成为全国最高行政管理机构。至此，中国历史上相沿已久的丞相制度被彻底废除，皇权空前扩大了。
在废除中书省的同时，朱元璋又撤销大都督府，改设前、后、左右、中所谓的五军都督府，以分散中央军事机构的权力。并规定五军都督府管兵籍，掌军政，但无调动军队之权，兵部掌军官控选和军令，但无直接指挥军队的权力。“征伐则皇帝命充总兵官，调卫所军领之；既旋则上所佩印，官军各回卫所”，“兵部有出兵之令，而无统兵之权；五军有统军之权，而无出兵之令……合之则呼吸相通，分之则犬牙相制”，这样，军权也就会完全掌握在了皇帝手中。
御史台本是中央的监察机构，但在洪武十三年，朱元璋宣布废除，而于十五年改置都察院，并赋予更大的职权，代表皇帝对行政和军事系统实行监督。都察院的长官为左、右都御史，负责“纠劾百司，辨明冤枉，提督各道”，凡“大臣奸邪，小人构党，作威福乱政者”、“百官偎葺贪冒，坏官纪者”、“学术不正，上书陈言变乱成宪，希进用者”，均可举发弹劾，遇有朝勤、考察，还可“同吏部司贤否陟黜。”朱元璋说：“以六部为朕总理庶务，都察院为朕耳目。”
洪武十四年，朱元璋又置大理寺，长官为大理寺卿，“掌审诚平反刑狱之政令”。刑部、都察院、五军断事官所推问的狱讼，均需将案牍和囚徒移交大理寺复审，“凡狱具，未经本寺评允，请司勿得发遣”。它与刑部。都察院合称三法司，组成了一个纠举、审理、复核的完整司法过程。这样，司法部门也被分散了权力，并互相牵制，利于皇帝操纵。
经过改革和整顿，明朝中央集权制度在唐、宋基础上又大大地向前迈进了一步。行政、军事、司法监察三大系统分立，最高决策权则统于皇帝，朱元璋因此成为历史上权力最大的封建独裁者，明朝也成为中国历史上封建中央集权最为成熟最为完善的封建专制王朝。
5.整肃吏治，严惩贪官
封建官吏是直接代表帝王来统治老百姓的，官吏一贪，百姓必然遭殃，而百姓在无法生存下去时，就必然会起来造反。这是一个社会发展的规律。朱元璋是通过亲自参加农民起义而得天下的，因此他非常了解官逼民反是怎么一回事。
所以，为了维护封建国家的长治久安，他采取了一系列严厉措施严惩贪官污吏。可以说朱元璋对此是下了决心的。当然，效果也是显著的，他惩贪政策和措施，确实起到了震慑人心的作用。
加强对官吏的考核
任何事业，最怕的就是组织成员丧失积极性、紧迫性，最怕由于制度的若干缺陷，使组织成员出现“干和不干一个样，干多干少一个样，干好干坏一个样”的大锅饭思想。在中国封建社会的历史上，实际上对政治施加影响的是整个朝廷官员班子，而且这个班子必须时时保持朝气和活力，才能使一个王朝稳步发展。就这个班子本身而论，则应多是有进取心和社会责任感的人员。这其中，考课制度便是为保持官员班子的朝气和活力而创立的一个制度性手段。
明朝之初，便是一个有朝气和活力的王朝。而在其内部，朱元璋为了激发统治集团本身的活力，采取了不少行之有效的方法。譬如，他施行对官员的考课制度便是其中之一项。之所以能够如此，一方面在于他吸取了古代治政思想的精粹，另一方面也来自于他的实际感受。他曾说过：“朕向在民间，常见县官由儒者多迂而废事，由吏者多好而弄法，靡所不至，遂致君德不宣，政事日坏。加以凶荒，弱者不能聊生，强者起而为盗。”因而他认识到，如果没有清明的吏治，干练的官风，社会就难以安定，百孔千疮的战后经济也就无从恢复，自己辛苦赚下的江山，难免又要落入他人之手。
因此，朱元璋亲自制定并颁行了《授职到任须知》，对中高级地方官吏的职责做出详细的规定，把地方的公务分为“把神”、“制书榜文”、“吏典”、“印信衙门”、“狱囚”、“起灭词讼”、“田粮”、“仓库”、“会计粮储”、“各色课程”、“鱼湖”、“金银场”、“窑冶”、“盐场”、“系官房屋”、“书生员数”、“青宿”、“官户”、“境内儒者”、“好闲不务生理”、“犯法民户”等三十一项，逐项开列地方官员应负的责任和所应注意的事情。而在某个应注意事项中，他往往还列出许多具体要求，例如“狱囚”，不但要了解已结案件的多少，在押犯人的数字，还要“知人禁年月久近，事体重疑，何者事证明白，何者取法涉轻。明白者，即须归结；涉疑者，更直详审，期在事理狱平，不致冤抑。”在“田粮”方面，朱元璋规定到职官员要详细掌握军、民、匠、灶、僧、道、医、儒等户口数字，以及官田、民田数字，民田夏秋两税数字，官田租粮数字，“各分项开报，以备度量支用”。对不遵守《须知》的官吏，坚决惩办。由于当时违犯《须知》规定，“公事不谋，体统不行，终日所信小人浸润，谋取赃私，酷害下民”而入狱或被杀的官吏非常多。洪武二十三年，朱元璋又制定《责任条例》，规定上级机构要对下级机构进行监督检查，所有官府衙门均设文簿，记录当季所办事项，每季度一次送交上级机构查考，形成了一个“布政司考府，府考州，州考县”的逐级考察系统。每岁进课时，布政司则负责将记录本司事迹的文簿和各府、州、县的事迹文簿送入京师，由交部通考。这样，对官吏考课的内容和形式便初步得以确定。
对官吏的考课，朱元璋具体分为考满和考察两种办法。考满是仿照古代所谓“三载考绩、三考黜陟”之制，规定内外官在九年任职期内三年一考，六年再考，九年通考，具备其一，即可升转。考核评语有三种，“称职”、“平常”和“不称职”，据以决定升降。一般降职者少，升迁者多。
洪武二十六年，经有司报请，朱元璋做出规定：京官初人仕者，一律试职一年，经考核验证其才堪用后则实授官职，不堪用者，即予降黜。这种类似于现代“试用期”的制度，不但是考察官吏才能的好办法，也极有力地敦促了官员们工作态度的转变。四品以上的官员和一切近侍官员、监察御史以及太医院、钦无监、王府官，黜陟由皇帝亲自裁夺。六部五品以下官，历任三年，由本部正官写出等级评语，送监察御史考核，再由户部复考。在京军职文官，由监察御史考核。茶马、盐马、盐运、盐课提举司、军职首领官，由布政司考核，送按察司复考。
布政司四品以上、按察司五品以上大员，三年考满，黜陟由皇帝裁夺。府州县官考满，先呈报吏部，再移付吏部所属文选请吏司作缺诠注，再移付稽选请吏司开黄，仍令给由，其见任官将本官任内事迹加以保勘核实明白，出给纸牌也即当今考核合格证书，撰造事迹功业文册。记功文簿，称臣金名，交付本官。然后将有关档案资料亲送至上级机构，由上级机构当面察其言行、办事勤情，从实考核称职、平常、不称职词语。以上俱由按察司核考，而后再量新考核复考评语交回吏部。
对府州县官的黜陟，洪武三年明确规定道：“府同知一考无过者，升知府；知县二考无过者，升知州。县丞一考无过者，升知县。”二十六年又规定：府州县官三年考满，“平常、称职者，于对品内别用。不称职，正官、佐贰官黜降，首领官充吏”。考察这些官员的办法是：“通内外官计之，其目有八：曰贪，曰酷，曰浮躁，曰不及，曰老，曰病，曰罢，曰不谨。”一般老、病、罢者致仕；不谨、浮躁、不及者降一级调外任。
洪武四年，朱元璋命工部尚书宏仁廉举山东莱州诸郡官吏。洪武六年又令御史台御史及道按察司察举有司官有无过犯，奏报黜陟制度从此逐步确立，后来推向全国。
朱元璋在明初实施的考察分为京察与外察两种。京察即对京官的考核，根据官员具体表现来决定升降。外察是对外官的考察。洪武十一年，朱元璋令吏部在殿堂上考核朝觐官的政绩，“称职而无过者为上，赐坐而宴，有过而称职者为中，实而不坐。有过而不称职者，不预宴，序立于门，宴者出，然后退。”此后便成定制。至洪武十八年，又定为三年一朝觐，具体朝觐办法是：由布政司、按察司、盐运司、府、州。县及士官衙门的流官等，在朝觐之前按《到任须知》编造文册，然后和原领敕谕、《诸司职掌》的事迹文簿，携至京师奏缴，作为考核依据。朝觐完毕，由吏部会同按察院进行考察，奏请定夺。继续留任者引至御前，伏候领命，刑部及科道官当面弹劾，责以怠职，再由皇帝宣布赦罪还任，并各赐敕书，以申戒饬。廉能卓异或贪酷异常的官员，则另有番族别之典，以示劝惩。在明初，考察的结果一般都是罢黜多而升迁少，正好可以借机换置新员，令能者上，庸者下。
惩治贪官毫不留情
朱元璋自幼生长于民间，对元代官吏对待百姓的贪酷了如指掌，也认识到元末吏治的腐败是农民大起义爆发的原因之一，认识到要保证他所建立起的政权不重蹈元代覆辙，就一定要整肃吏治，杜绝贪污受贿行为。他因此为贪官污吏设立了严法酷刑，而且由于他个性的狠毒，在实际实行过程中，还专门为贪官设立了一些法外非刑，以此来警戒天下官吏奉公守法。
对于官吏的公务性错误，朱元璋一般只是采用罢官、贬官、调职等办法来惩戒，即使处刑，一般也都较轻，很少以杀戮手段来处置。但是对贪赃舞弊行为，他则绝不轻饶。朱元璋认为，吏治之弊莫甚于贪虐，而庸鄙者次之，所以他说：“朕于廉能之官或有罪，常加宥免，若贪虐之徒，虽小罪亦不赦也。”
官吏犯赃的，罪行较轻，朱元璋处以谪戍、屯田、工役之刑，也就是充军发配。如徐州丰县丞姜孔在任时，借口替犯人交纳赃款，挨家挨户敛钞，结果全都塞进了腰包。朱元璋查知此事，将姜孔发配去修城。