此时，黄巾军的主力部队分散在冀州、颍川和南阳附近。
皇甫嵩率兵直扑颍川，被颍川的黄巾军打败，只好率兵退守长社。随后，黄巾军将皇甫嵩围困在了长社。此时，黄巾军占了绝对优势，但是没有战斗经验的黄巾军却扎营在草木丛中，皇甫嵩秘密派兵向黄巾军大营纵火的同时，发动了突袭，黄巾军大败。
南阳的黄巾军在张曼成的领导下，杀死南阳郡守褚贡。不久，秦颉率官兵对起义军发动反攻，南阳黄巾军头领张曼成战死。
张角在冀州率领黄巾军先后攻占了广宗和下曲阳等地。灵帝命卢植率兵前去镇压。卢植久攻不下。灵帝命董卓率兵镇压，董卓也被张角打败。灵帝只好再次更换人马，命刚刚剿杀了南方黄巾军的皇甫嵩前来镇压，皇甫嵩率兵杀气腾腾地冲了过来。就在黄巾军生死存亡的关键时刻，黄巾军的精神和军事领袖--张角病故，黄巾军的战斗力大减，形势从此逆转，没有受过任何正规训练的黄巾军陷入了绝境之中。
张角死后，张角的弟弟张梁和张宝高举起义的大旗。
张梁在广宗与皇甫嵩展开激战，皇甫嵩见无法获胜，宣布闭营休战。就在黄巾军上下懈怠之时，他发动突袭，杀死了张梁。
此战黄巾军损失惨重，三万多黄巾军将士被屠杀，五万多黄巾军将士投河自尽，三万多黄巾军辎重车辆被焚毁，黄巾军的妇女儿童全被掳掠。皇甫嵩战胜以后，下命挖开张角的坟墓，割下张角的头，向灵帝邀功。
随后，张宝在下曲阳被官军围攻，张宝战败被杀，十多万黄巾军被俘以后惨遭屠杀。黄巾军南阳的起义首领也相继战死，黄巾军主力部队呈现了崩溃之势。
但黄巾军起义的残余部队和响应黄巾军的军队并未因为黄巾军主力的溃败而消失，起义之火也并未熄灭。直到二十多年以后，残存在各地的黄巾军和响应黄巾军的军队才被各地的群雄势力吞并。
虽然，黄巾军起义在张角等主要领导死以后被平息下来。但是，黄巾军起义却使东汉王朝成了名存实亡的统治者。地方群雄趁平叛之机，发展各自的势力，中央权力被削弱，地方开始呈现独立的倾向。名存实亡的东汉王朝逐渐土崩瓦解了。
在黄巾军大起义的打击下，东汉政权名存实亡，外戚、宦官专权。董卓借口进京勤王，立汉献帝，把持朝政，暴虐苛酷，民愤极大，各路诸侯纷纷讨伐他。后来，董卓被义子吕布杀死。