370年,前秦趁前燕发生内乱之际,灭亡了前燕。376年苻坚派遣毛盛、姚表等人率十三万大军伐前凉,一路势如破竹,进而将姑臧团团包围,走投无路的前凉皇帝张天锡只好出降,前凉亡。凉州郡县全都成了前秦版图中的组成部分。灭凉之后,苻坚乘军队士气高涨之时,于376年冬,遣苻洛率军十万,俱难、邓羌等率兵二十万分兵出击代国,代国军队不堪一击,一触即败国君什翼犍逃亡云中(今内蒙古和林格尔县北)。不久,代国发生内乱,前秦趁机击云中,杀代国国君什翼犍之子君,代国亡。至此,前秦基本上完成了统一北方的大业,促进了民族大融合,与东晋政权隔淮水而望,南北并立。