明朝是封建专制主义中央集权比较发展的年代，尤其是洪武年间，皇权高度集中。因此军权与皇权的矛盾比较尖锐，而作为明初最高军事机构的都督府，其发展的趋势是一分为五，权力也必然由集中到分散，由大变小，这是封建专制主义中央集权的产物。早在行枢密院刚刚成立之时，朱元璋就自领其事，每次征战，从制定战略战术到命将，朱元璋都要亲自定夺，尤其是关键的战役，其方案多由他拍板，甚至在战役进行中，朱元璋不是亲临指挥，就是下诏告诫主将，无一不在朱元璋的运筹之中，名为行枢密院掌管军事，实则朱元璋亲自指挥，将军权牢牢握在自己一人手中。1377年7月，朱元璋任命李文忠提督大都府事，并告诫李文忠：“国家新立，惟三大府总天下之政，”大都督府为三大府之一，掌军旅，诸如天下将士兵马丈数、荫授、迁除与征讨进止机密重事等，尽在其职掌之中，权力极重。“军权的相对集中，在立国之初，战事频繁的年代，是非常必要的，但在明王朝统治稳定之后，军权再如此集中，就会给皇权带来威胁。1380年（洪武十三年）正月，在罢中书省的同时，也将中央的大都督府一分为五，且各府之间互不统属，直接属皇帝负责。又分别与兵部相联系，兵部的职权，是掌天下武卫官军选授、简练及政令；比起五军都督府的职掌，既有联系，又相互制约，这样一来，无论是都督府，还是兵部，谁都不能集调遣军队和指挥军队两种权力于一身，任何一方都无法运用自己手中的权力搞独立或兵变，调动和指挥权只掌握在朱元璋一人之手，从而大大加强了中央军权。明朝洪武年间，地方军事体制就是卫所和都指挥使司，1368年，朱元璋采纳了刘基的建议，在全国上下建立卫所，史载：明以武功定天下，革元旧制，自京师达于郡县，皆立卫所。”规定，要害地凡一郡的设所，连郡的设卫。大体是五千六百人为一卫，一千二百人为千户所，一百二十人为百户所。军士在明代有特殊的社会身份，其军籍、民籍和匠籍的归属各有不同，军籍隶属于都督府，而民籍则属于户部，匠籍属于工部，军卒不受地方官的管辖，不仅身份不同，而且在法律、经济方面也不同。在卫所首领职权中，有明确的规定：卫指挥使，又称掌印，掌理一卫之事，指挥同知、指挥佥事分理屯田、验军、操营、巡捕、漕运、备御、出哨、人卫、戍守、军器等军务，统称为“见任管事”不任事的入队，称为带俸差操。每遇战争，则率领所属军士，听从主帅的指挥调遣。
1370年，朱元璋升杭州卫、江西卫、燕山卫、青州卫为都卫指挥使司；不久又设置了河南、西安、太原、武昌四都卫指挥使司，以后在全国各行省均建立了都卫指挥使司，到1374年，又在河州设置了西安行都卫指挥使司，1375年10月，朱元璋正式诏令改都卫指挥使司为都指挥使司，并成为行省的最高军事机构。都司掌一方的军政事务，分别率所属卫所隶属于五军都督府，而所命于兵部。都指挥使及都指挥同知、佥事经常以其中一人统领都司军政事务，称掌印；一人负责练兵，一人掌理屯田，称佥书。另外诸如巡捕、军器、漕运、京操、备御等杂务，全都由都指挥同知、佥事分别统领。早在朱元璋率军攻取城池之时，就非常重视军队的训练。洪武初年，他又依次命各路将领分道练兵。为了使军士训练制度化、系统化，1373年，朱元璋诏令中书省，大都督府及六部官员制定训练士兵的条例，明文规定：“凡各卫所将士，务必按时练习武艺。骑卒必善驰马、射弓及枪、刀；步兵必善弓弩及枪。”那时，朱元璋再三强调，该降的军官必罚无贷。可见朱元璋对将士的训练及素质要求是多么的严格和重视。朱元璋治军有方，在古代帝王中堪称楷模。他有功必赏，有罪必罚，军纪严明，在封建社会也是有口皆碑的。早在明王朝建立之前，朱元璋命将攻城掠地，擒敌报捷，当时朱元璋只凭借将士们是否勇敢有能力给予奖赏，或升官或赏物，对于奖赏的等级，并无明确的规定，全凭朱元璋个人的意志。1370年11月，朱元璋大赏功臣宿将。赏功当天，朱元璋坐奉天殿，皇太子、诸王侍立左右，李善长、徐达率文武百官排列两旁。朱元璋告谕文武群臣：“今爵赏次第，皆朕所定，至公而无私。”于是封李善长、徐达等六公，汤和等二十八侯。此时的军功封赏，虽然有功绩报批程序，亦有封赏的礼仪等级，但多以朱元璋的好恶来拍板，没有太严格的规定。一直到1396年（洪武二十九年）？才正式有了详细规定。军纪是部队能否生存和立于不败之地的关键，朱元璋起事不久，就非常重视军纪的整顿。一次，他率领一支刚归降的队伍出征，有名士卒违反命令，他立斩不赦，使众人不敢再违命令，在徐达攻镇江时，朱元璋告诫他与诸将士：“我自从起兵以来，未尝乱杀人，今天你们就要前往攻城，一定要明白我的用心，并告诫将士攻克城池时，不要杀戮，有违反此令的，军法处治。有纵容犯法的，重罚不赦。”徐达攻下镇江后，号令严明，果然是民无兵刃之灾，舍无焚烧之废，京口之民全生，此后，每攻城略地，朱元璋均反复告诫将士禁杀戮，勿扰百姓。正因为如此，使得朱元璋所率的队伍军容整肃，军纪严明，听指挥，战斗力强，在群雄中是纪律最好的一支军旅。此外，朱元璋还制定了较为系统的军法条例。这对于约束将士，提高战斗力，均起到了极为重要的作用，同时，也得到了老百姓的支持和拥护。