公元316年，在内乱外患的多重打击下，腐朽的西晋王朝灭亡了。随之而来的，是出现南北大分裂的历史局面。在南方，公元317年晋琅玡王司马睿在建康（今江苏南京）称帝，建立起东晋王朝。其占有现汉水、淮河以南广大地区。在北方，匈奴、鲜卑、羯、氐、羌等少数民族首领也纷纷先后称王称帝，整个北方地区陷入了割据混战的状态。在这个动乱过程中，占据陕西关中一带的氏族统治者以长安为都城，建立了前秦政权。
公元357年，苻坚自立为前秦天王。苻坚即位后，重用汉族知识分子王猛治理朝政，推行一系列改革政治、发展经济和文化、加强军力的积极措施。在吏治整顿、人才任用、学校建设、农桑种植、水利兴修、军队强化、族际关系调和方面均收到了显著的成效，在一定程度上使前秦实现了“兵强国富”的局面。
在这基础上，苻坚积极向外扩张势力。他先后灭掉前燕、前凉等割据政权，初步统一了北方地区。黄河流域的统一，使苻坚本人的雄心越发增大。他开始向南进行扩张，在公元373年攻占了东晋的梁（今陕西南部、四川北部的部分地区）、益（今四川的大部分地区）两州，这样长江、汉水上游就纳入了前秦的版图。接着，前秦雄师又先后占领了襄阳、彭城两座重镇。由于秦晋矛盾日趋尖锐，终于导致了淝水大战。
苻坚让军事上的胜利冲昏了自己的头脑，一心想起兵攻打江南，统一南北。公元382年4月，苻坚任命其弟为征南大将军。8月又委任谏议大夫裴元略为巴西、梓潼二郡太守，积极经营舟师，企图从水路顺流东下会攻建康。到了10月，苻坚认为攻晋的战略准备业已基本就绪，打算亲自挥师南下，一举攻灭东晋。
在兴师之前，苻坚将群臣召集到太极殿，计议发兵灭晋这一事宜。在这次殿前决策会议上，苻坚趾高气扬，声称四方基本平定，只剩下东南一隅的东晋犹在抗拒王命，现在他要亲自统率97万大军出征，一举荡平江南地区。
群臣中只有少部分人附和苻坚的意见，多数大臣对此却持有反对的意见。尚书左仆射权翼认为，东晋虽然弱小，但是君臣和睦、上下团结，这时尚不是进攻它的时机。太子左卫率石越也认为，晋拥有长江天险，又得到民众的拥护支持，进攻不易取胜。他们都希望苻坚能够暂时按兵不动，发展生产，整训部队，等待东晋方面出现间隙后，再乘机攻伐。但苻坚却骄狂地声称：“以我百万大军，把马鞭扔在长江中，也完全可以阻断长江水流，东晋方面还有什么天险可以凭恃的呢？”
苻坚见群臣反对他的攻晋决策，便结束朝议，退而与其弟阳平公苻融决断大计。苻融此人智勇双全，深得苻坚的信任。但这时他也不同意出兵，认为攻晋有三大困难：人心不顺；东晋内部团结，无隙可乘；前秦连年征战，军队疲惫，百姓厌战。建议苻坚放弃马上攻晋的计划。同时苻融也清醒地看到前秦表面强盛的背后，是民族矛盾、阶级矛盾的激烈尖锐。他向苻坚指出：如今鲜卑、羌、羯等族的人，对氐有灭国之深仇，他们正遍布于京郊地区，大军南下之后，一旦变乱发生于心腹地区，那时就追悔莫及了。为了说服苻坚，苻融还把苻坚所最为信任的已故丞相王猛反对攻晋的临终嘱咐搬了出来，可是苻坚都听不进去，固执地认为，以强击弱，犹“疾风之扫秋叶”，垂危的东晋政权可以迅速消灭。
公元383年8月，苻坚亲率步兵60万，骑兵27万、羽林郎（禁卫军）3万，计90万大军，在东西长达几千公里的战线上，水陆并进，南下攻晋。东晋王朝在强敌压境、面临生死存亡的紧急关头，决意奋起抵抗。他们一方面缓解内部矛盾，另一方面积极部署兵力，制定正确的战略战术方针，以抗击前秦军队的进犯。
晋孝武帝司马曜在谢安等人的强有力辅弼下任命桓冲为江州刺史，控制长江中游，阻扼秦军由襄阳南下。任命谢石为征讨大都督，谢玄为前锋都督，统率经过7年训练，有较强战斗力的“北府兵”8万沿淮河西上，遏制秦军主力的进攻。又派遣胡彬率领水军5000增援战略要地寿阳，摆开了与前秦大军决战的态势。
同年10月18日，苻融率领前秦军前锋攻占寿阳，生擒晋平虏将军徐元喜等人。与此同时，慕容垂部攻占了郧城（今湖北安陆县境）。晋军胡彬所部在增援的半道上得悉寿阳失陷的消息，便退守硖石（今安徽凤台县西南）。苻融又率军尾随而来，攻打硖石。苻融部将梁成率兵五万进抵洛涧（今安徽怀远县境内），并在洛口设置木栅，阻断淮河交通，遏制从东西增援的晋军。
胡彬困守硖石，粮草乏绝，难以支撑，便写信请求谢石驰援，可是此信却被前秦军所截获。苻融及时向苻坚报告了晋军兵力单薄、粮草缺乏的情况，建议前秦军迅速开进，以防晋军逃遁。苻坚得报，便把大部队留在坎城，亲率骑兵8000驰抵寿阳，并派遣原东晋襄阳守将朱序到晋军中劝降。
朱序到了晋军营中后，不但没有劝降，反而向谢石等人密告了前秦军的情况，并建议谢石等人不要延误战机，坐等前秦百万大军全部抵达后束手就擒，而要乘着前秦军各路人马尚未集中的机会，主动出击。他指出只要打败前秦军的前锋，挫伤它的士气，前秦军的进攻就不难瓦解了。谢石起初对前秦军的嚣张气焰心存一定的惧意，打算以固守不战来消磨前秦军的锐气。听了朱序的情况介绍和作战建议后，便及时改变作战方针，决定转守为攻，争取主动。
11月，晋军前锋都督谢玄派猛将刘牢之率领精兵5000迅速奔赴洛涧。前秦将梁成在洛涧边上列阵迎击。刘牢之分兵一部迂回到前秦军阵后，断其归路；自己率兵强渡洛水，猛攻梁成的军队。前秦军腹背受敌，抵挡不住，主将梁成阵亡，步骑5万人土崩瓦解，争渡淮水逃命，1.5万人丧生。晋军活捉了前秦扬州刺史王显等人，缴获了前秦军的大批辎重、粮草。洛涧遭遇战的胜利，挫抑了前秦军的兵锋，极大地鼓舞了晋军的士气。谢石乘机命诸军水陆并进，直逼前秦军。苻坚站在寿阳城上，看到晋军部阵严整，又望见淝水东面八公山上的草和树木，以为也是晋兵，心中顿生惧意，对苻融说：“这明明是强敌，你怎么说他们弱不堪击呢？”
前秦军洛涧之战失利后，沿着淝水西岸布阵，企图晋军交战。谢玄知己方兵力较弱，利于速决而不利于持久，于是便派遣使者激将苻融说：“将军率领军队深入晋地，却沿着淝水布阵，这是想打持久战，不是速战速决的方法。如果您能让前秦兵稍稍后撤，空出一块地方，使晋军能够渡过淝水，两军一决胜负，这不是很好吗？”
前秦军诸将都认为这是晋军的诡计，劝苻坚不可上当。但是苻坚却说：“只引兵略微后退，待他们一半渡河，一半未渡之际，再用精锐骑兵冲杀，便可以取得胜利。”
于是苻融便答应了谢玄的要求，指挥秦军后撤。前秦军本来就士气低落，内部不稳，阵势混乱，指挥不灵，这一撤更造成阵脚大乱。朱序乘机在前秦军阵后大喊：“秦军败了！秦军败了！”前秦军听了信以为真，遂纷纷狂跑，争相逃命。东晋军队在谢玄等人指挥下，乘势抢渡淝水，展开猛烈的攻击。苻融眼见大势不妙，骑马飞驰巡视阵地，想整顿稳定退却的士兵，结果马倒在地，被追上的晋军手起刀落，一命呜呼。前秦军全线崩溃，完全丧失了战斗力，晋军乘胜追击，一直到达青冈（在今寿阳附近）。前秦军人马相踏而死者，满山遍野，堵塞大河。活着的人听到风声鹤唳，以为是晋兵追来，更没命地拔脚向北逃窜。这一战，秦军被歼灭的十有八九，苻坚本人也中箭负伤，仓皇逃至淮北。