朱元璋在勤政的同时，也非常注意节俭。这二者之间存在着一定的联系，互为因果。作为富有天下的皇帝，只有处富不奢，才能勤于政事，不忘自己的本职；也只有勤于政事，才能认识到骄奢之害。朱元璋虽然早年家境困顿，经常遭受饥饿的威胁，但他一生拥有财富，并未被财富所腐蚀，而是保持节俭的品德，依然过着俭朴的生活。朱元璋并不是不爱财富，而是能够善于支配财富，不为财富所累。他为了使自己处富而不淫，特地把唐朝李山甫的《上元怀古》诗抄写在屏风上，暇闲时则吟唱自省：
南朝天子爱风流，尽守江山不到头。
总为战争收拾得，却因歌舞破除休。
尧将道德终无敌，秦把金汤可自由？
试问繁华何处在，雨花烟草石城秋。
因为南京曾是孙吴、东晋、宋、齐、梁、陈六朝都城，而这六朝皆是偏安短命的王朝。所以，朱元璋对六朝天子沉溺歌舞风流，追逐腐化奢侈而导致亡国的教训非常重视。他把六朝天子作为一面镜子，决心不步他们的后尘，塑造自己的新形象。
为了遏制奢侈之风，朱元璋尽可能地从自己节俭做起，并引导天下特别是百官的消费趋向。他在处理政事之余，不亲近女妓歌舞，不饮酒作乐。每日饮食，多为粗茶淡饭，日用器物也尽量从简。据说，他的睡床，除了金龙装饰之外，与百姓家的睡床没有多大区别。朱元璋用的车舆器具服饰等物，依照惯例该用金饰的，他下令以铜代替。负责制造的官员大为不解，认为用不了多少金子就可以完成的，对此，朱元璋说：“朕富有四海，难道吝啬这点黄金？只是考虑到提倡俭约。朕若不能身先示范，就难以约束百官。况且奢侈都是由小到大的。”
早在龙凤十二年，朱元璋准备营造宫室，管工程的人打好图样给他看，他一拿过来，立刻将雕琢考察的部分去掉。
之后，又对中书省臣说，宫室只要坚固就可以了，何必过于精心雕琢呢？
历尽千辛，创大明基业，对于朱元璋来说，是来之不易的。而守成之业，更是难上加难。朱元璋出生农民家庭，参加义军之前亲身体会到生活在最低层的劳动人民是如何的艰辛，因而生活节俭，从不奢侈，对自己要求是比较严格的。