中国古代政府一向重视控制民众，朱元璋对此尤为关切。他曾宣布说：“朕治理天下，务必要使农民尽心尽力地耕田种地，士人真诚地修习仁义道德，商人努力从事商业贸易，工匠努力提高专业技能。之所以如此，是想让他们都能各安其生。”作为基层政权的乡里组织，在控制国民方面发挥着重要作用，崛起于下层社会的朱元璋，对此有着具体而深刻的认识。所以他在登上皇位后，即着手对乡里有组织地进行恢复和改造。
明朝建立之初，社会残破，户籍散乱，此时朱元璋工作的重点是使流移各地的大量百姓安顿下来，重新纳入政府户籍，所以他在大力鼓励垦荒的同时，也花了很大力气进行户口统计，编制了相应的册籍，经过十几年的努力，社会经济稳定下来了，政府在清理户籍方面也积累了丰富的经验，掌握了大量数据，所以到洪武十四年，在建立黄册制度的同时，朱元璋还把原来在江南部分地区实行的里甲制度推行到全国，用以规范各地的乡里组织，加强对民众的管理和控制。按照规定，所有的人户都要编人里甲体系之中，每一百一十户编成一里，从中推举田产最多的十户担任里长，轮年充任，余下的一百户编为十甲，每甲十户，立一人为甲首。
在城镇里，则推行坊厢制，城中叫坊，近城地方叫厢，每个坊、厢也是由一百一十户组成，设坊长、厢长管理。里长的职责十分广泛，他们要应付官府的各种征求，追征各户应缴的钱粮，也要解决纠纷，督促生产，维护治安。如朱元璋规定，民间纠纷必须先经里长处断，如果“顽民不服，辗转告官、捏词诬陷者，正身处以极刑”。里甲已登记人册的田地，绝不许荒芜，若有无故荒芜，或应种桑麻之类的经济作物而未种植者，里长要受到笞杖之刑。后来朱元璋又设立老人，负责裁断本里诉讼，劝民为善。凡属于打架斗殴一类的纠纷，都要先经老人处理，如果直接诉于官府，即被视为“越诉”，要受到责罚。朱元璋令每个村庄都要设置一面鼓，农忙时节，老人五更擂鼓，村民听到鼓声都要赶紧下田，老人还要清点人数，有懒惰不到的，即予以责罚，而老人如果失于督饬，则要受到官府的追究和处罚。
朱元璋很希望农民们能相互扶助，使乡里社会成为一个个自立自足的封闭体系。他曾发布过一份《教民榜文》，里面说：乡里百姓，祖祖辈辈居处相近，田地相邻，相互之间不是亲戚，也是熟人。年老的或与自己的父祖同辈，或与伯叔同辈，或与兄长同辈，虽不是亲属，也是同乡，朝夕相见，就如同亲属一样。幼年子弟对长辈尊敬谦恭，敢有轻薄不遵教诲的，里甲、老人可以予以责罚。如果年长者不以礼引导后生，只是倚仗上了点年纪，胡乱生事，也要治罪。务必要做到乡里和睦，长幼相爱，这样时间久了，自然不会发生争讼一类的事情，大家都可以安享太平。他还教导说，乡里的人民，贫富不均，婚姻、死伤一类的事情，谁都可能遇上，不论是谁家有事，其他人家都应出些钱物相助。如果每户出钞一贯，每里每户，便是百贯，如每户五贯，便是五百贯，这样什么事情都能办妥了。此举不仅可以解决遇事人家的经济困难，更重要的是可以促进乡里社会的友爱团结。由此可见，朱元璋是想通过强化传统的血缘和地缘关系，维护乡村社会的稳定。
或许由于朱元璋本人就是从游民阶层脱颖而出的缘故，他对社会上那些不务正业的游手好闲之徒特别厌恶。他曾让户部榜谕天下：“士、农、工、商，都必须各守本业，医生和占卜者也要在本地定居，不得远游。凡出入作息，乡邻必须相互知晓。如果有不理生产、游荡懒惰的人，以及容留别处游民的人，一律迁移到边远地方。”
他推行连保连坐制度，规定百姓邻里之间要“互知丁业”，严厉稽查拿办游民，如果本里中有不事生产的“逸夫”，而里甲、邻居、亲戚等却放任不管，不肯扭送到官府治罪，一旦此人在别处犯事被提送到官，除本人处死外，里甲四邻都要迁徙到边境荒凉地区。本里中若有强盗、窃贼、逃军、逃犯以及惹事生非的恶人，“一人不敢缉捕，里甲、老人必须会集里人擒拿赴官，违者以罪罚之。”
朱元璋还建立了路引制度，以约束人民的行动。路引也叫丁引，是一种通行证，上面记有持证人的身份和出行目的。朱元璋规定，不管是军人还是百姓，只要出外超过百里，即需要向所在地方的官府申请路引，市村人民在留人住宿时，必须严格检查路引，无路引者不许容留。对于持有路引者，也要细心核查，看看他从事的职业、所携带的物品，是否与引上记载相符，以防有人打着做某事的幌子去做别的事。如果没有路引，只要出行百里之外，是军人则以“逃军”论，是百姓则以“私渡关津”论，都要给予很重的处罚。
朱元璋不仅憎恶不务正业的游民，而对于投附官府的游民，更是痛恨入骨，采用严刑酷法加以打击惩治。明朝建立后，朱元璋曾对各级官府可以设立的吏胥种类及数量作出明确规定，但一是因为地方事务繁杂，人手少了不够用，二是因为市井无赖、地方豪强极力钻营投靠，谋取私利，所以不少官府在正式编制的吏胥之外，都有或多或少的投充者，其中有的被官府正式收编为额外吏胥，有的则依附于正役吏胥以讨生活。在某些地方，特别是在江南地区，寄生于官府中的投附者数量很多。这些人本以谋私为目的，又多是无赖之徒，所以奸诈百出，祸害百姓。据朱元璋在《大诰续编·罪除滥设第七十四》中说，当时在苏州坊厢中清理出不务牛理、交结官府之徒一千五百二十一名，在松江坊厢中则清理出一千三百五十名，可见数量之多。朱元璋申斥说，这些人“不问农民急务之时，生事下乡，搅扰农业”，“日生奸诈，岂止一端”，“害民之心，那有厌足”。
建国之后，朱元璋一直对这类人进行打击，但屡禁不绝，于是在洪武中期发动了大规模的绑缚民害赴京运动，将这类人列为重点绑缚对象。因不务正业、投靠官府而被绑缚赴京的人，害民情节严重的处死，其他大部分则被发配到边境地区充军。
元末农民起义是利用白莲教发动起来的，对于这类民间宗教的厉害，朱元璋深有感触，他在《大诰三编·造言好乱第十二》中，曾追述说：“元朝政治昏乱，上天将要改朝换代，于是喜欢作乱的愚民，乘机兴起。开始时只有几个人，其他愚民闻风响应，共谋倡乱。这种情景，是我亲眼见过的。”
即位之后，朱元璋采取了严厉打击的政策，试图把民间宗教彻底禁绝？在《大明律》中，朱元璋宣布：“凡师巫假降邪神，书符咒水，扶鸾祷圣，自号端公、太保、师婆，及妄称弥勒佛、白莲社、明尊教、白云宗等会，一应左道乱正之术，或隐藏图像，烧香集众，夜聚晓散，佯修善事，煽惑人民，为首者绞，为从者各杖一百，流三千里。”还规定：
“凡造谶纬、妖书、妖言及传用惑众者，皆斩。若私有妖书，隐藏不送官者，杖一百，徒三年。”就是逢年过节百姓们常常举行的迎神赛会，朱元璋也不允许再举行，违者重处。
通过建立严密的社会管理体系，朱元璋把民众牢牢地置于自己的控制之下，稳定了社会秩序，巩固了统治基础。