公元373年7月，东晋权臣桓温姑孰病逝，终年62岁。
桓温死了，东晋门阀政治的格局还得延续。尚书令王述于太和二年（367年）八月去世后，尚书令一职一直空着，司马昱以丞相身份登基后，以王彪之为尚书仆射，谢安为侍中、吏部尚书、中领军，由于司马昱临终时，桓温曾上书建议由谢安辅政，因此谢安在朝中占据着相当重要的地位。
桓温生前的职务为使持节、侍中、都督中外诸军事、丞相、录尚书事、大司马、扬州牧、平北将军、徐兖二州刺史；
桓温三弟桓豁为右将军、都督荆梁雍州军事、领南蛮校尉、荆州刺史、假节，桓温幼弟桓冲为振威将军、监江州、荆州、豫州三州六郡诸军事，南中郎将，假节，江州刺史，领镇蛮护军，西阳、谯郡二郡太守。
桓氏实际控制了扬、徐、兖、荆、江、豫六个州（梁、益二州已被秦前夺取），再加上桓温的子侄辈也有很多人担任太守一级的官职。
桓温有六个儿子：桓熙、桓济、桓歆、桓祎、桓伟和桓玄，桓熙、桓济因为在与小叔桓冲发生利益冲突被废；桓歆被封为临贺郡公；桓祎患有痴呆症；桓伟后来也做到荆州刺史；5岁的桓玄继承桓温的事业，袭封为南郡公。
桓温二弟桓云已死，儿子桓序为宣城内史。
桓温三弟桓豁有20多个儿子，记录在案的有宁远将军、南顿太守桓虔，鹰扬将军、竟陵太守桓石秀，谢安的参军桓石民。桓温的四弟桓秘跟侄儿一道被废。
桓温幼弟桓冲又有7个儿子：桓嗣、桓谦、桓修、桓崇、桓弘、桓羡和桓怡，此时也在军中任职，担任中低级军官。因此，桓温虽然不在了，可桓氏家族还掌握着东晋核心区域的军政大权。
桓温去世后，有人曾劝桓冲清除朝中的谢安和王坦之，只是桓冲没有采纳。这种情况下，谢安急需寻找同盟军，增强自己的实力，因此，他的第一步是请求崇德太后褚蒜子再次临朝称制，摆上桌面的理由是天子年幼，大臣新死，亟须稳定大局。
可褚太后只是司马曜的堂嫂，从法理上说不通。谢安私下对王彪之、王坦之解释说，皇帝的生母李陵容出身低贱，拿不出手，褚太后已辅佐过两朝皇帝，论资格那是杠杠的，而且从政经验丰富，非她莫属。
谢安的第二步是任命桓冲为中军将军，都督扬、豫、江三州诸军事，扬、豫二州刺史，镇守姑熟，将桓温生前管辖的扬州给他；加封桓豁为征西将军，在原都督荆、梁、雍三州诸军事的基础上，又加督交州、广州诸军事；加封桓豁之子、竟陵太守桓石秀为宁远将军、江州刺史，镇守浔阳。故意留下徐州和兖州虚位以待，如果桓氏家族没有提出抗议，再选派非桓氏家族的人就任。一旦桓氏家族态度强硬不肯相让，再从长计议。而事态的发展，就看已经成为桓氏家族实力派代表人物的桓冲的态度了。
桓冲与大哥桓温不是一路人，他忠于晋室，以国家利益为重，为避免出现不必要的冲突，自愿出镇外地。因此，他接任桓温的官职后，一改桓温之前的做法，与朝廷保持紧密联系。
此前，桓温对自己辖区内的死刑案件从不上报朝廷，桓冲认为生杀予夺大权是皇上的权力，因此，他到任后凡是死刑案件都要先上报朝廷，得到批准后才执行。这让谢安认为桓冲是个可信赖、能与之共同匡扶晋室的人。
王坦之去世后，谢安与桓冲分处中外，使东晋的权力结构达到平衡。由于两人思想境界相同，既维护家族利益，又兼顾国家，东晋由此步入一段难得的安定团结时光，整个社会呈现出一派祥和的气象。
然而，此时的天下局势却不容乐观，在东晋政权从内讧到拨乱反正的几年时间里，前秦苻坚在王猛的辅佐下，迅速消灭了前燕、扫平了整个北方地区。当时没有人怀疑苻坚会成为第二个秦始皇、汉高祖，都相信一个强大统一的时代即将到来。
苻坚自己也是这么认为的，在发动淝水战役之前，大秦帝国的疆域“东极沧海，西并龟兹，南包襄阳，北尽沙漠”。东北、西域各国都派遣使节与其建立外交关系，只有东南一隅的东晋与之对峙。而且前秦已将边界线推进至淮河、汉水，使东晋的版图又回到其建立初期的状态。
面对如此广阔的疆域，苻坚的策略是把氐族众部分迁到各地，让苻氏亲族离开长安镇守全国各重要城市和军事要地，他的爱子长乐公苻丕就负责镇守前燕的国都邺城，形势一片大好，就等着统一天下，分封诸侯了。
遗憾的是，失去了超级辅佐王猛，苻坚的脑子终究不太好使，他把氐人迁徙到各地，固然是增强了前秦在各地区的控制力，可却削弱了氐人在关中祖居地的势力，带来了极大的隐患。
可此时的苻坚还没有意识到这一点，已经把消灭东晋的计划提上了议事日程，并且命人在长安修建新的官邸，准备安置司马曜、谢安等东晋君臣了。他说：“平定江东后，让司马曜担任尚书仆射、谢安担任吏部尚书、桓冲担任侍中。这一天很快就会 到来！”
早在建元十四年（东晋太元三年，378年），苻坚就开始对东晋用兵。这一年二月，他派爱子征南将军苻丕率领步骑7万，与征虏将军石越、京兆尹慕容垂（因功高震主受猜忌，投奔前秦）以及领军将军苟池等各路人马约10万人，会攻襄阳，揭开了进攻东晋的序幕。
襄阳守将是东晋南中郎将、梁州刺史朱序，一开始，他欺负前秦军是旱鸭子，又缺少渡河器具，根本不当回事。等到石越率领5000骑兵顺流渡过汉水时，朱序才慌忙固守襄阳中城。石越攻克襄阳外城，并利用缴获来的100多艘船只接运余下的秦军，使襄阳遭到团团围困。
当初，朱序的母亲韩老夫人听说秦军要进犯襄阳，亲自登上城墙察看。视察到西北角时，她认为该处不够坚固，于是率领女仆及城里的成年女子100多人在城墙里边斜着修筑了一道20多丈的城墙。等到秦军攻城，西北角的城墙果然被攻破，将士们转移到新城墙上固守，秦军只得撤退。大家遂称这段城墙为“夫人城”。
苻丕想一口气拿下襄阳，大将苟苌认为秦军占尽优势，不如采取围而不打、阻断晋军粮道和援兵的办法，到时就像抓坠入罗网的鸟似的，轻松取胜。苻丕觉得是个好办法，就与攻下了南阳的慕容垂合军襄阳城下，等着捉鸟。
战事一拖就是小一年，前秦御史中丞李柔上书弹劾说：“长乐公苻丕等人拥兵10万，围攻一座小城，每天的耗费以万计，却久攻不下，不如撤军，追究苻丕的责任。”
苻坚不愿半途而废，说：“苻丕等人空耗钱粮，确实应该问责。只是军队出征那么久，不能无功而返，就宽恕他们一次，让他们用胜利来赎罪。”
于是派使者持符节警告苻丕等人，并赐苻丕宝剑一把，说：“如果明年春天还拿不下襄阳，你就用这把剑自裁，不必厚着脸皮回来见我了！”
苻丕没办法，只好严令各部猛攻襄阳，我的脑袋保不住，你们就先死在襄阳城下给我看。朱序倒是员猛将，屡屡出战，打得秦军不敢小觑。不料城内出了叛徒，襄阳督护李伯护秘密派儿子前往秦军大营请降，自愿充当内应。
秦军终于攻克襄阳，抓获朱序，将他押送到长安。苻坚杀了卖国投敌的李伯护父子，任命为东晋守节的朱序为度支尚书（财政部长）。
接着，苻坚又派兖州刺史彭超进攻彭城（今江苏徐州），派后将军俱难等人率步骑7万攻打淮阴（今江苏淮阴西南）、盱眙（今属江苏）两地。两军以犄角之势冲击东晋的东路防线。
到第二年（379年）二月，秦军攻陷彭城、淮阴。五月又拿下了盱眙。秦国6万大军进围三阿（今江苏高邮西北），三阿距广陵（今江苏扬州）仅100里，建康震动。
朝廷急忙沿长江重新布防，派谢安的弟弟征虏将军谢石率领水军驻扎在涂中（今安徽滁州）。此时晋军的一支王牌部队，也就是东晋历史上鼎鼎大名的北府兵正在广陵。
早在太元二年（377年），眼看前秦日益强大，为抵御他们入侵，朝廷拟打造一支作风过硬、战斗力强悍的野战部队。谢安推荐自己的侄儿谢玄，朝廷遂任命谢玄为建武将军、兖州刺史，领广陵相、监江北诸军事，镇守广陵。
谢玄一到广陵就招兵买马，其时广陵和京口聚居着大量从北方逃避战乱而来的流民，谢玄从中选拔骁勇士卒，再加上附近不少武艺高强、又懂军事的汉人踊跃参加，就此组建起这支部队，并从中提拔彭城人刘牢之为参军，进行严格、封闭式的军事训练，正有待战火的检验。
眼下就到了检验他们的时刻，谢玄于是率领北府兵救援三阿，果然不同凡响。六月，谢玄首败秦军于盱眙，秦军退屯淮阴。北府军将领何谦率水师溯淮水而上，焚毁秦军建造的浮桥，秦将邵保战死，退屯淮北。谢玄与何谦、戴遁、田洛等乘胜追击，再败秦军于君川（今盱眙县北君山之川）。刘牢之则夺取了秦军的辎重及运输船只。这一仗不但解了三阿之围，还乘胜收复了盱眙、淮阴，全歼敌军。秦军主将彭超、俱难仅以身免，只身逃回了长安。苻坚大怒，更加坚定了灭晋统一天下的决心。
建元十九年（东晋太元八年，383年）八月，苻坚不顾王猛生前的劝告，力排众议，终于发动了淝水之战。
苻坚这次可是下了血本，命令全国每10个成年男子就抽1人为兵；20岁以下的富贵人家子弟，凡是有点能耐的都拜为羽林郎；人数不够，又征鲜卑、匈奴、羌等其他胡族补充。命幼弟阳平公苻融率后将军张蚝、京兆尹慕容垂等以25万步骑兵作为前锋，自己随后从长安出发，率领步兵60余万、骑兵27万浩浩荡荡望南而行，大军旗鼓相望，前后千里。
九月，苻坚大军到达项城，而凉州兵才赶到咸阳，巴蜀7万水师也才顺流东下，幽州、冀州的军队也抵达了彭城，苻融的先头部队已经抵达颍口。东西万里，水陆并进，如此场面实属世所罕见。
面对前秦的大举进攻，东晋方面任命尚书仆射谢石为征虏将军、征讨大都督，任命徐、兖二州刺史谢玄为前锋，与辅国将军谢琰、西中郎将桓伊等率8万兵众抵抗前秦。另派龙骧将军胡彬带领5000水军增援寿阳。共分三路兵马北上迎敌。
以区区8万人对付百万秦军，建康上下无不震恐，谢安倒是镇定自若。谢玄的北府兵虽然勇猛，但兵力相差如此悬殊，谢玄心里直发毛，出发前特地到谢安家去告别，请示一下这仗该怎么打。谢安轻飘飘一句“朝廷已有安排”就不再言语。
谢玄不敢再问，又派好友张玄再去请示。谢安干脆带着张玄和亲朋好友一起游山下棋，并以别墅做赌注。张玄的棋艺高出谢安好几个段位，由于心慌反输给了谢安，谢安对在旁边观棋的外甥羊昙说：“别墅给你啦！”
荆州的桓冲见情势危急，请求派3000精兵入卫建康，谢安对派来的将士说：“朝廷这边都安排好了，你们还是回去好好把守西面防线吧！”
桓冲毫不掩饰自己此时的心情，对手下将士说：“谢公的气度确实叫人钦佩，但不懂得打仗。大军压境，他还有心思搞清谈，兵力少就罢了，又派一些毫无经验的小青年去指挥。看来我们都要当俘虏了。”
前秦方面可不管东晋高层是惊恐还是潇洒，马上展开攻击。当年十月，苻融先于东晋援兵到达寿阳（今安徽寿县），在几乎没有抵抗之下拿下寿阳城，俘虏守将徐元喜、王先等人。与此同时，中途转向西线战场的慕容垂也顺利拿下郧城（今湖北安陆），东晋守将王太丘战死，苻坚命慕容垂驻守郧城待命。增援寿阳的胡彬，在途中得知寿阳失陷后，退守硖石（今安徽风台西南），以阻击秦军。
苻融一面派兵进围硖石，一面派卫将军梁成率所部5万兵马赶赴洛涧（今安徽淮南东），沿淮河布防，阻止东面晋军。谢石、谢玄害怕梁成部，在到达距洛涧25里处的地方就停了下来。这导致原本是增援别人的胡彬反倒成了孤军，被苻融大军团团包围，粮食很快耗尽，只好派人向谢石求救。
令胡彬所料未及的是，他这封求救信不但救了自己，还挽救了整个东晋。通信兵被秦军抓获，苻融得知胡彬缺粮后，这个战前曾极力劝止苻坚伐晋，做事一向谨慎的亲王，却突然脑子发热，误判了形势，派人火速赶到项城向苻坚报告：“贼寇力量不足，粮草匮乏，已成瓮中之鳖，为防止他们逃窜，请陛下速速前来。”
苻坚喜出望外，生怕时间一长，晋军主力会逃散，增加进剿难度，便把大军留在项城，自己率领8000轻装骑赶到寿阳城与苻融汇合。为了保密，苻坚下了一道严令：敢泄露本王到寿阳者斩！
苻坚到寿阳后，派临阵封为尚书的朱序前去劝降。朱序对东晋可是忠心耿耿，不然当初也不会死守襄阳，被俘获后也是“身在曹营，心在汉”。
见到谢石等人后，将秦军的情况详细告知谢石，提出：“如果坐等秦国百万大军到齐，确实难以跟他们抗衡。唯有趁其各路军队尚未会集，迅速发起进攻，只要能击败其前锋，挫其锐气，则胜负可定。”
谢石开始听说苻坚到了寿阳十分害怕，及至听了朱序的话后，终于横下一条心，准备放手一搏，先击败秦军先头部队，再做下一步打算。
十一月，谢玄派刘牢之的5000北府兵突袭洛涧，打了秦军一个猝不及防，阵斩秦军主将梁成、弋阳郡太守王咏。秦军崩溃，争先恐后逃往淮河，被晋军拦截砍杀，死伤惨重。谢石、谢玄水陆齐进，晋军开至淝水东岸，与寿阳的秦军隔水对峙。苻坚与苻融登上寿阳城观望，见晋军布阵严整，向北回望，又见八公山上的草木有动静，对苻融说：“那不是劲敌吗，怎么能说晋兵不堪一击呢！”
随后秦军紧邻淝水布阵，晋军无法渡河。一时僵持下来，秦军大部队则不断地从项城赶来，形势对晋军越来越不利。
谢玄于是派使者到寿阳城下战书，说：“你孤军深入，却临水布阵，这是持久的策略，不是速战之举。不如你稍稍后撤，腾出块地方，让我军能渡过河来与你决一胜负，这对双方都有利，成败在此一举，省得大家在这干耗着。”
众将领都不同意对方的无理要求，认为我众敌寡，他们没资格谈条件。但苻坚的脑子又进水了，说：“不如将计就计，让我军稍微后撤一点，等他们渡河时，来个渡半而歼之，定能一战而胜！”苻融也认为可行，于是同意晋使的要求，挥动令旗，指挥全军后撤。
由于这计谋是最高统帅部临时决定的，处于临战状态的将士们并不知情，撤退令一下，就前军变后军，向北有序撤退。朱序早联络了一批心向东晋的汉人士兵，他们不失时机在阵后大喊：“秦军败啦！秦军败啦！”
原先还有秩序的秦军顿时阵脚大乱，后撤变成溃散，这支主要由氐、羌、鲜卑等胡人拼凑起来的大军，本来就互不信任，都争先恐后想逃离这本不该他们来的鬼地方。
谢玄、谢琰、桓伊等人率军迅速渡过淝水，向乱糟糟的秦军发起总攻。苻融回马想阻止队伍后退，结果被连人带马冲倒在地，被随后赶来的晋军斩杀。
晋军要做的就是追上去充分发挥砍杀的本领了，这一追就追到了青冈（今安徽寿县西北），秦军在溃逃中自相践踏，尸体遍布山野，几十万大军就此灰飞烟灭。一场声势浩大的战役就以近乎玩笑的方式永载史册。
