当朱元璋的势力向南方发展的时候，首先遇到一个强敌是陈友谅。陈友谅出生在沔（音miǎn）阳一个渔民家庭里，读过几年书，在县衙里当过文书，很有心计。他原是徐寿辉起义军的部将，后来他用铁锤击死了徐寿辉，自立为王，国号叫汉。他占据江西、湖南和湖北一带，地广兵多，建立了一个强大的割据政权。公元1360年，他率领强大的水军，从采石沿江东下，进攻应天府，一心想并吞朱元璋占领的地盘。
朱元璋面对陈友谅大军的进攻，没有急于决战，他听取了刘伯温的建议，决定智取。
朱元璋的部将康茂才跟陈友谅是老相识。朱元璋把康茂才找来，对他说：“这次陈友谅来进攻，我要引他上钩，没有你帮助不行。请你写封信给陈友谅，假装投降，答应做他的内应；再给他一点假情报，要他兵分三路攻打应天，分散他的兵力。”
康茂才说：“这事不难。我家有个守门的老仆，给陈友谅当过差。派他送信去，陈友谅准不会怀疑。”康茂才回到家里，按照朱元璋的吩咐写了信，连夜叫老仆赶到采石，求见陈友谅。陈友谅见了老仆送来的信，果然并不怀疑，问老仆：“康公现在哪里？”老仆说：“现在他带了一支人马，驻守江东桥，专等大王去。”
陈友谅连忙又问：“江东桥是啥样子？”
老仆说：“是座木桥，容易认得出来。”
陈友谅跟老仆谈了一阵，吩咐左右摆上酒菜，让老仆饱饱地吃了一顿，才打发他回去。临走的时候，陈友谅对老仆说：“你回去跟康公说，我马上就去江东桥，到了桥边，我叫几声‘老康’，请他马上接应。”
老仆回去后，把陈友谅的话全向朱元璋回报了。朱元璋连声叫好，当夜派人把江东的木桥拆掉，改成一座石桥。
朱元璋从陈友谅的逃兵那儿得到情报，弄清楚他们进攻的路线，就让大将徐达、常遇春等分几路在沿江几个重要关口埋伏了人马。朱元璋亲自统率大军守在卢龙山（今南京狮子山），布置兵士准备好红黄两面旗帜，规定了信号：举起红旗就是通知敌人已经到来，举起黄旗就是命令伏兵出击。一切都准备好了，只等陈友谅自投罗网。
陈友谅自从老仆走后，立刻下令全体水军出发，由他亲自带领，直驶江东桥。到了约定地点，竟没见木桥，只有石桥。陈友谅想，别管他是石桥还是木桥，只要找到康茂才就好。他就到石桥旁边，一连喊了几声“老康”，也没人答应。陈友谅这才想到自己上了当，急忙命令船队撤退。
朱元璋发现敌人中计，立刻叫兵士举起黄旗，发动进攻。一霎那间，战鼓齐鸣，岸上伏兵一起杀出，水港里的水军也加入战斗。陈友谅受到突然袭击，两万兵士、一百多艘战船被朱元璋的将士俘获，被杀死的和落水淹死的无数。陈友谅在部将保护下，抢了一条小船，总算逃了命。这一仗打得陈友谅大伤元气。朱元璋的声势却越来越大。陈友谅哪肯甘心，他养精蓄锐，决心要报这个仇。过了三年，他造了大批战船，又带领60万大军，进攻洪都（今江西南昌）。
朱元璋亲自带领20万大军援救洪都，陈友谅才撤去包围，把水军全部撤到鄱阳湖。朱元璋把鄱阳湖出口封锁起来，堵住敌人，决定跟陈友在鄱阳湖里决战。
陈友谅的水军有大批战船，既高又大，一字儿排开，竟有十几里长；朱元璋的水军，却尽是一些小船，论实力比陈友谅差得多。双方连续打了三天，朱军都朱败了。
部将郭子兴跟朱元璋说：“双方的兵力相差太远，靠打硬仗不行，非用火攻不可。”
朱元璋立刻命令用七条小船，装载着火药，每条船尾带着一条轻快的小船。那天傍晚，正好刮起了东北风，朱元璋派了一支敢死队驾驶这七条小船，乘风点火，直冲陈友谅大船。风急火烈，一下子就把汉军大船全部燃烧起来，火焰腾空，把湖水照得通红。陈友谅手下的将士不是被烧死，就是被俘虏。
陈友谅带着残兵败将向鄱阳湖口突围。但是湖口早已被朱元璋堵住。在陈友谅突围的时候，朱军一阵乱箭，把陈友谅射死。
鄱阳湖一战，陈友谅的60万水军大败，一批大臣、将领投降了朱元璋，陈友谅的儿子善儿也成了俘虏。他手下一个叫陈定边的勇将死里逃生，用小船载着陈友谅的尸体和他的另一个儿子陈理逃回武昌，第二年，朱元璋率军攻打武昌，陈理投降了，陈友谅势力被彻底消灭了。
朱元璋消灭了南方最大的割据势力陈友谅以后，自称吴王。汉军的覆灭，为朱元璋消除割据势力，建立明朝扫除了最大的障碍。