朱元璋小名重八，濠州钟离县太平乡孤庄村人。朱元璋十七岁那年（1344年），家乡连续发生旱灾、蝗灾和瘟疫，他的父母和大哥在半个月里先后死去，由于家里穷，在邻居的帮助下才得以埋葬亲人。
走投无路的朱元璋只好出家到皇觉寺以求活命。无奈皇觉寺粮食也不多，他只好离开寺庙到淮河中游一带化缘，三年之后回到寺中。
在这三年中朱元璋结交了不少朋友，其中有许多人信奉白莲教和弥勒教，秘密地进行反对元朝的活动。朱元璋也受到了影响。回到皇觉寺后，在他幼时好友汤和的劝说下，朱元璋投靠了郭子兴，成为其部下的一名红巾军士兵。
朱元璋不但英勇善战，而且很会办事，很受郭子兴的赏识。参军只两个月后，郭子兴就把他提拔成自己的亲兵，还把义女马氏嫁给了他。第二年，又提升朱元璋为镇抚，从此，朱元璋开始发展自己的力量。
1353年，朱元璋回到自己的家乡招兵买马，少年时代的伙伴徐达、吴良、周德兴等纷纷投奔他，不到十天功夫，就招募了七百多人。这些人和后来投奔来的邓愈、常遇春、胡大海等，都成了朱元璋手下最得力的大将，为明朝的建立立下了汗马功劳。朱元璋还专门招募了一些谋士，替他出谋划策。其中著名的是定远冯国用、冯国胜两兄弟，朱元璋常向他们请教打天下的道理。冯氏兄弟建议朱元璋先占领金陵，然后再图取天下。朱元璋深以为是。1354年，朱元璋吸收了定远的一批地主武装，他的队伍扩大到两三万人。
1355年六月，郭子兴病死了，韩林儿任命郭子兴的儿子郭天叙为都元帅，部将张天为副元帅，朱元璋为左副元帅。九月，在攻打集庆时，郭天叙、张天阵亡。于是，朱元璋当了都元帅，郭子兴的部队全部归他指挥。
当时江淮一带还有徐寿辉、张士诚、双刀赵和李扒头等好几支红巾军，大家都想扩大自己的地盘，增强自己的力量，因此相互用计相互攻击，朱元璋当了左副元帅后，想从和州（今安徽和县）渡江攻打采石、太平（今安徽当涂），然后进攻集庆。正当苦于没有战船渡江之时，双刀赵和李扒头派人邀请朱元璋到巢湖商量两家合作的事情。朱元璋正要去赴宴，有人告诉他，说李扒头想在商谈过程中杀掉他，吞并他的部众。于是朱元璋就以有病为由推脱，反而邀请李扒头来赴宴。结果李扒头中计，一到朱元璋的军营就被捆绑起来，扔到水里淹死了。双刀赵听说了，赶紧逃奔到徐寿辉那里去了，他们苦心经营的巢湖水军也就归朱元璋所有了。朱元璋势力大增，把进军的矛头指向集庆。
1356年三月，朱元璋进行了充分的准备之后，亲自指挥攻城。水陆大军共几十万人云集集庆，气势非常壮观。最后，起义军攻破集庆，元朝守将福寿来不及逃跑，被乱刀砍死。
朱元璋进入集庆，马上召集城里的父老们宣布元朝的罪恶，并出榜安民，使集庆城很快就恢复了安宁。接着，朱元璋把集庆路改为应天府，表示他起义是按照上天的旨意，即“上应天命”。
朱元璋很有谋略，善于利用别人来保护和发展自己。当北方刘福通他们力量很强时，他接受了韩林儿的任命，承认宋政权的龙凤年号，处处打着宋政权的旗号办事，因此，受到刘福通红巾军的保护；同时却又保持着自己的队伍的独立性，不受别人指挥、支配。朱元璋趁刘福通大举北伐时，抓住时机攻占了集庆，以这里为中心建立自己的根据地。之后三年，他又逐步占领了常州、宁国（今宣城）、扬州、处州（今丽水）等地方，整个江淮地区都在他的掌握之中。