攻克滁州后，朱元璋非常注意吸纳当地人才。滁州儒士范常至军门拜谒，他热情款待，诚心结纳，使之成为手下一位重要谋士。名将邓愈、胡大海也是这时投靠朱元璋的。邓愈为虹县人，元末动乱，其父起兵据临场（今安徽凤阳东），后战死。其兄邓友隆代领所部，不久病逝，邓愈年方十六，被众人推为首领，“军中威服其勇”。胡大海是邓愈的虹县同乡，此人长身铁面，智勇过人。二人深得朱元璋器重，一为管军总管，一为前锋。至此，朱元璋实力更为雄厚，在滁州站稳了脚跟。
金陵为基，南征北讨
不久，郭子兴带部队1万人来到滁州，朱元璋立即交出兵权，将自己手下的人马献给郭子兴。
公元1355年2月，刘福通领导的红巾军建立了宋政权，刘福通迎韩山童的儿子韩林儿到亳州，立为皇帝，号小明王，国号为宋，建元龙凤，定都亳州。
与此同时，朱元璋带领部队攻占了和州。由于朱元璋作战有功，郭子兴升他为统领和州兵马的总兵官，并由朱元璋坐镇和州。
朱元璋镇守和州不久，郭子兴也来到和州，但不久在和州病逝。宋政权任命郭子兴的儿子郭天叙为都元帅，郭子兴的妻弟张天佑为右副元帅，朱元璋为左副元帅。郭天叙年轻没经验，张天佑缺乏智谋。和州的部队大多数是朱元璋召来的，再加上朱元璋有徐达等一批心腹战将，因此，他虽位居第三，实际上成了都元帅府的主帅。
公元1355年下半年，朱元璋又招收了巢湖水寨的红巾军，巢湖红巾军为朱元璋带来“舟师万余，粮数万石。”
朱元璋有了和州这个地盘，又有数万军队，他作为和州军队的主帅，他的部队又是一支相对独立的军队。这时，朱元璋面临的问题，不再是为人部将靠人提拔，而是抓住机遇，发展壮大自己的问题。
和州东南紧靠长江，城小兵多，不能作为成就帝王大业之基。朱元璋在收降了两支武装之后，有船有浪，兵多将广，就挥军横渡长江，攻占了长江南岸的太平（今安徽当涂）。太平离集庆（今江苏南京）很近，南京自古以来就是历史名城，早先在攻占定远时，儒士冯胜就建议他攻取集庆。冯胜说：“这个城市龙蟠居踞，是帝王之都，应该占下来作为立足基地，然后四出征伐，讲仁义，收人心，不贪子女玉帛，天下不难平定。”
占领太平后，朱元璋召见儒士陶安，问陶安道：“吾欲取金陵，足下以为如何？”陶安道：“金陵，古帝王之都，龙蟠虎踞，限以长江之险，若取而有之，据其形胜，出兵以监四方，则保向不克！”
朱元璋于至正十六年（公元1365年）三月，攻占集庆，改集庆路为应天府，向宋政权报捷。宋政权的小明王韩林儿让他在应天设立江南等处行中书省，任命他为行省的最高长官平章政事。
朱元璋奉命在应天设立江南等处行中书省，自己总揽省事，又设立江南行枢密院，设置左、右、前、后、中五翼元帅府，设置省都镇抚司、理问所、提刑按察司、兵马指挥司、营田司。
朱元璋在应天建立包括行政、司法、军事等各种机构在内的、组织完备的农民政权，对于他以后统一全国，起到了很大的作用。这一农民权，虽然在名义上是从属于红巾军宋政权的，但实际上是朱元璋领导的独立武装力量。
朱元璋此时有了可作帝王基来的地盘，手中又有大军，据有长江天险，可以说为以后称王称霸创造了极为有利的条件。
朱元璋据守应天后，分析了天下大势。当时，在应天的北边是小明王的红巾军，西边是徐寿辉的红巾军，东边是张士诚的武装，这三种力量，把元军的主力挡在外面，构成三面屏障，对朱元璋十分有利。
朱元璋果断地做出巩固东、西两线，出击东南的战略决策。在北线，只留部分兵力维持地方治安。在东线，先派兵攻占镇江以确保应天的安全，然后派人与张士诚通好。张士诚自恃地富粮足，拒绝他的通好要求，出兵进攻镇江。朱元璋派兵还击，攻占太湖以东地区。从江阴沿太湖至长兴筑起一道坚固的防线，挡住张士诚西犯的门路。在西线，派兵攻占池州作为应天的屏障，此后也对徐寿辉采取防御势态。主要兵力则集中到东南一线，向南面和东南面出击，夺取孤立、分散的元军据点。至正二十年（公元1360年）五月，朱元璋的军队已陆续攻克皖南和浙东的许多地方，迅速扩大了他的占领区。
在攻打皖南地区的同时，朱元璋抓紧时机，积极营建以应天为中心的根据地，为逐鹿中原做准备。由于朱元璋起义较晚。实力小，要想逐一消灭对手，进而推翻元朝，必须准备进行长期的艰苦斗争，因而需要有一个稳固的战争基地为之提供物力、财力和兵力。至正十七年（公元1357年），朱元璋在攻占徽州后，亲至石门山拜访老儒朱升，向他请教夺取天下的计策。
朱升回答他三句话：“高筑墙，广积粮，缓称王”。意思是说：要训练部队，巩固后方；发展生产，储备粮食；不图虚名，暂不称王。总之，就是要埋头苦干，建设一个巩固的战争基地。朱元璋认为他的话很有道理，即提出了一个在两淮江南地区“积粮训兵，待时而却”的方针，进一步加强根据地的建设。
巩固根据地和缓称王的主张，使朱元璋得以发展自己的势力，如果他早称王，与其他武装力量争天下，不仅得不到红巾军宋政权的承认，而且会吸引元朝的兵力将矛头对准自己，更危险的是还可能被张士诚、徐寿辉等武装力量吃掉，由于他采用朱升的计策，不图虚名，避免了树大招风。他一直在形式上保持与小明王的臣属关系，使用的是宋政权的龙凤年号，打的是红巾军的红色战旗，表示自己只是小明王的一个大臣而已，免得引人注目，遭受打击。
到至正二十年（公元1360年）闰五月，被友谅杀害了徐寿辉，自称皇帝，建国号汉，约张士诚夹攻朱元璋。但此时朱元璋已兵广粮多，可以用任何势力相匹敌，可以与群雄逐鹿中原了。于是，朱元璋改变战略，采取固守东南，向东北和西线出击的方针。
至正二十年，朱元璋在应天附近的龙江伏击陈友谅，获大胜。三年后，陈友谅再次大兴兵60万侵犯洪都，朱元璋再次大败陈友谅，在鄱阳湖，陈友谅为流矢射死。
至正二十七年（公元1367年）朱元璋又灭张士诚，迫降方国珍。至此，朱元璋占据了长江中下游广大地区。
至正二十七年（公元1367年）10月，朱元璋率大军向北方的元军发起进攻，第二年8月，攻克大都。公元1370年已基本占领北方各省。公元1371年攻占四川，迫降夏国主明升。公元1381年进兵云南，次年平定云南。公元1387年平定辽东。
公元1368年，朱元璋在应天登上帝位，国号大明，建元洪武，以应天为南京。
至此，一个贫苦人家出生的放牛娃、小和尚，终于成为一代开国帝王，并且被史学家们称为卓越的政治家和军事家。
4.改革政治体制，巩固皇权统治
马上得天下，但不能靠马上治天下。对此，朱元璋有着非常清醒的认识。因此，明政权建立后，他采取了一系列的思想、文化方面的建设和政治体制的改革。一方面用儒家思想来控制人的行动，维护自己皇权统治的合理合法性，为封建国家培育人才；一方面削弱了重臣元勋的政治、军事实权。皇权则因此而得以空前的加强。从而防止了权臣擅权、军阀割据隐患的发生。
设太学，重儒教，兴文化
洪武元年（至正二十八年，1368年），为使封建土子后继有人，朱元璋又在都城应天设大本堂，取古今图籍充实，延儒臣教授太子诸王，选才俊之士充伴读。以孔子五十六世孙孔学袭封衍圣公，进秩二品。第二年又增设国子学舍。他说：“太学是培养人才的地方自古君王都很注重太学。”
这些儒生进入各级学校后，学习儒家经典，成为合乎朱元璋要求的治国人才，为兴礼乐、明教化、推行封建礼法制度准备了新的梯队。接着，他重开科举，于至正二十七年下令设科取士：“盖闻上世帝王创业之际用武以安天下，守成之时，讲武以威天下，至于经纶抚治，则在文臣，二者不可偏用也，兹欲上稽古制，设文武二科，以广求天下之贤……有司预为劝谕，民间秀士及智勇之人以时勉学，候开举之岁，充贡京师，其科目等第各有出身。”
朱元璋对科举制度的贡献在于，他在历史上首次以八股文取土。所谓八股文，亦称时文、制义或制艺。每篇由破题、承题、起讲、人手、起股、中股、后股、束股八部分组成，由破题至人手，都只是为议论所做的准备。自起股至束股才是正式的议论。四股之中，规定须各有两股排比对偶的文字，合共八股，故称八股文。八股文的题目均于《四书》、《五经》文句中选出，考生答题也均须按照朱熹《四书集注》等书，所谓代圣人立言，不许自由发挥，每篇以三百字至七百字之间为宜。这种文体是朱元璋和刘基共同创制。本来在一开始，具有考察考生对圣贤经传的掌握程度和运用理解程度的较积极作用，但由于这种文体本身形式呆板，极易束缚创造意识，结果弊大于利。朱元璋之实行八股文，起初提出“代圣贤立言”的宗旨，规定不许发挥自己见解主张的原则，用意就是使考取的读书人循规蹈矩，作圣贤的忠实门徒和听话守本分的臣子，其精神统治之严密和强大，由此亦可见其一斑。
在“独尊儒术”的指导思想下，朱元璋任用了一大批听话的儒士，建立了一整套合乎儒家规范的礼法、宗法制度。自唐以降到了宋朝，以朱熹、程灏为代表的宋儒理学兴起，进一步加深了封建礼法对人们思想行为的束缚和迫害，而儒家思想在接受了宋儒理学这一新衍生思想之后，进一步失去了在指导国政、规范世态人情方面的积极作用，而彻底沦落为封建统治者的御用工具。到了明朝，资本主义萌芽已有前生，自由思潮也已渐起，但礼法制度不但没有宽松迹象，反倒比宋、元时期更为严谨和禁锢，正说明了朱元璋在维护集权统治上的苦心。
封建专制的历史早已表明，儒家思想是封建王朝的有力精神武器，但由于思想体系十分博杂，能透彻理解掌握精义的只有那些经过“十年寒窗苦”的读书人，一般百姓因不具备学习条件，只能受到一些间接的影响。为了加强对普通百姓的教化，使普通百姓也能掌握儒家思想中对他们起麻醉作用的那一部分，朱元璋将儒家思想工具化、功利化，将要旨归纳为“敬天”、“忠君”、“孝亲”三点精要，编成专书，在民间流传，书名叫做《精诚录》。其中的“敬天”，可以说是维护君主权力的重要工具，借“天”来抬高君主的地位，将王权染上一种神性的色彩，宣扬君主受命于天，亦即所谓的“真龙天子”，以此来证明封建专制统治和维护这种统治的三纲五常是上天的安排，是天理的体现。朱元璋所要求的敬天，其实就是敬君，敬君主的“神圣王权”，也就是说臣民们要俯首帖耳地服从帝王统治。“忠君”则规定臣民须无条件服从君主意志，忠于君主。儒家的“三纲”为：“君为臣纲，父为子纲，夫为妻纲”，朱元璋视为至宝极力鼓吹。“孝亲”则与“忠君”相辅相成。《大学》道：“身修而后家齐，家齐而后国治，国治而后天下平。”抓住治家也就是抓住了根本，只有家庭秩序得到维持稳固，君主的专制才能确保无虞。为了宣扬“孝亲”思想，朱元璋命制《孝行图》，同时又御制《大诰》，规定：“臣民之家，务要父子有亲，率土之民，要知君臣之义，务要夫妇有别，长幼有序，朋友有信，众尊有德。”可见，朱元璋所宣扬的“孝亲”思想其实还是以“忠君”为目的。
对国家行政机构的改革
扩张皇权，集军政法三权于一身，如此专制必成封建制国家的政体，自然是按照封建统治者统治天下的需要而建立起来的，因此封建的国家行政机构，处处都要体现统治者一人独裁的意志。为了使行政机构更适合君主的需要，历史上很多帝王都曾对政体做过削足适履的改革，以防止个别成长起来的势力危害君主的权威地位。朱元璋强化集权统治的关键一步，也是对国家政治体制的改革，集政、法、军权于一身，使皇权扩张至顶峰。
皇权的至高无上是实现皇帝独裁、大臣辅政的先决条件，既然这是必由之途，首先就要在政治体制中确立、体现出来。元朝时于中央设中书省以总理全国政务，中书省的大权实际是在左右丞相手中掌握，如此则中央权力必然会过分地集中于中书省，造成左、右丞相权力的膨胀，因而丞相虽然起到了辅政的作用，可同时又起到了限制政权发展的作用。而在地方设置行中书省，从建制上仿效中书省，掌握了各地的政、法、军权，号称“外政府”。正缘于此，元朝后期各自为政，往往擅权自专，不听朝廷调度，形成了分裂割据的局面。正如我们所知，朱元璋渡江后建立的宋政权江南行中书省，也仿效了元朝这种政体，因此一应军国大事均不需向小明王奏请，朱元璋得以扛山坐大。因而可以说元制的种种弊端，是朱元璋亲历亲闻，所以他既然在前期从这种行政制度中得到了好处，后期却担心部下起而仿效。
正如朱元璋所担心的那样，明朝建立以后，臣僚越礼非分、违法通制的事件层出不穷。有鉴于此，他已经感觉到改革行政机构势在必行。