东晋建国之际，北方已进入“十六国”时期。初期，与东晋并立的有前赵和后赵，接着又有前燕和前秦，到后来则出现更多的割据政权。北方各政权大多数为少数民族所建，它们不仅相互展开割据混战，还不时兴兵南下，进攻东晋。东晋政权也多次进行北伐，以期收复中原地区。

最早进行北伐的是祖逖。祖逖出身范阳道县（今河北涞水北）大族，他在少年时代就胸怀大志。西晋末年，祖逖与好友刘琨同任司州主簿，曾中夜“闻鸡起舞”，相互砥砺，被时人传为佳话。

刘曜攻破洛阳时，祖逖率领亲族、邻里数百家南迁到京口（今江苏镇江），被司马睿任命为军咨祭酒。祖逖向司马睿提出北伐要求，司马睿当时正忙于筹建政权，无暇顾及北伐之事，便任命他为奋威将军、豫州刺史，只拨给1500人的粮饷和3000匹布，令其自行招募兵士，北进中原。

祖逖遂于永嘉七年（313）率领随从南迁的百余家部曲溃江北上，“中流击楫而誓曰：‘祖逖不能清中原而复济者，有如大江！’”祖逖的北伐得到了广泛的响应和支持，队伍很快扩充到2000余人，并且制造了大量的兵器。

祖逖联络黄河以南的坞壁主，共同进击后赵石勒。经过几年的浴血奋战，收复了许多地方，使“黄河以南，尽为晋土”，并迫使后赵石勒“不敢窥兵河南”。

但是，正当祖逖大力劝课农桑，练兵积谷，准备继续向北推进时，东晋统治集团内部矛盾加剧。晋元帝司马睿为防范祖逖功高难制，任命南方大族戴渊为征西将军、都督司兖六州诸军事、司州刺史，出镇合肥，将祖逖置于他的控制之下。祖逖痛感壮志难酬，同时预料到内乱必起，北伐成功无望，遂忧愤成疾，于太兴四年（321）发病而死。后来，祖逖收复的地方又被石勒攻占，北伐成果丧失殆尽。

祖逖之后，庾亮、庾翼兄弟也曾有志北伐。他们以荆州为基地，练兵习武，积极筹备征伐后赵。咸康五年（339），庾亮上疏请求率兵北伐。可是朝臣多持观望态度，并以“弃江远进，以我所短击彼所长，惧非庙胜之算”为由，横加阻拦。

同时，由于庾亮所遣先头部队被后赵石虎击败，执政者又征其人朝辅政，庾亮的北伐随之终止。不久庾翼因病去世，北伐之事无成。

东晋进行的历次北伐活动中，影响最大的是桓温的三次北伐。桓温在继庚亮之后出任荆州刺史期间，为施展萌生已久的收复中原的志向，进行了一系列的准备工作。永和十年（354），桓温率兵4万，从江陵水陆并发，进击关中的前秦，开始第一次北伐。晋军很快抵达灞上（今陕西西安东北），关中百姓“持牛酒迎温于路者十八九，耆老感泣曰：‘不图今日复见官军！’”

桓温兵入关中，正值麦收时节，他打算就地收麦，解决军粮问题，遂屯兵不进。秦王符健则采取坚壁清野的对策，使晋军乏粮，陷入饥困，桓温不得已而退兵。秦军乘势追击，晋军屡败，伤亡甚众。

永和十二年（356），桓温第二次率兵北伐，进攻羌族首领姚襄占据的洛阳。是年七月，桓温自江陵出发，很快就击败姚襄，收复洛阳。他上表晋穆帝，请求还都洛阳，因遭到执政大族的反对而未能如愿。还军以后，洛阳又被前燕攻占。

太和四年（369），桓温第三次北伐，自姑孰（今安徽当涂）出兵，进攻前燕。晋军由水道入黄河，很快推进到枋头（今河南浚县西），前锋部队逼近燕都邺城。燕主慕容障惊恐万状，打算弃都而逃。但由于前燕得到前秦的救援，框温被迫撤兵，途中遭到燕军袭击，败绩而归。此后，东晋仍有人倡议北伐，但并无实际行动。

东晋的多次北伐，由于各种因素的制约都没有达到预期的目的，收效甚微。北伐的目标在于收复中原，恢复晋室的一统天下，但各个统帅的意愿不尽相同。其中，既有执政者利用北伐相互制约，又有大族人物欲借助北伐以立威专权，致使本应当集中的力量在内争中分散耗损，屡次出兵而无成。这正如前燕谋臣申胤评论桓温北伐的结局时所说：“以温今日声势，似能有为，然在吾观之，必无成功。何则？……晋之朝臣未必皆与之同心。故温之得志，众所不愿也，必将乖阻以败其事。”

与此同时，随着岁月的流逝，北方南迁的大族在江南立足已久，他们不愿“舍安乐之国，适习乱之乡”，对收复中原，重返故里的热情日趋淡薄，因而对北伐不予支持。东晋的北伐虽然先后失败，但它对于阻止北方各割据政权向南方扩展势力，保护江南地区经济、文化的发展具有积极意义。

淝水之战，是北方的前秦与江南的东晋之间进行的一场兼并统一战争。前秦是氏族符氏在“十六国”前期建立的政权。苻坚在位时，大力革新内政，使社会经济得到较大发展，国力强盛。

苻坚通过武力征服，统一了北方。其后，他便急于进攻东晋，以图吞并江南，一统天下。

淝水战前，符坚召集王公大臣讨论伐晋之事，参与朝议者大都持反对意见。他们认为由于连年征伐，国力大耗，并且兵疲将倦，有厌战之心；内部的鲜卑、羯、羌皆为心腹之患，对外大规模用兵可能引起变乱；晋朝君臣和睦，内外同心，又有长江天险作为屏障，所以不可轻易发动进攻。可是，符坚却固执己见，自以为“有众百万，资杖如山”，“投鞭于江，足断其流”，灭掉晋国，轻而易举，指日可待。

符坚积极筹划南征之时，正值东晋国势强盛之际。晋孝武帝司马曜励精图治，执掌朝权的大族人物谢安继续实行以"和靖"求"安定"的施政方针，内部出现稳定的政治局面。同时，经过几十年的发展，经济上呈现“时和年丰，百姓乐业，谷房殷阜，几乎家给人足”的繁荣景象。

在军事方面，谢安命侄谢玄在京口招募流民及其后裔组成的“北府兵”，皆为“劲勇”之士，主要将领刘牢之等均以“骁勇”闻名于世，是一支颇有战斗力的部队。

晋孝武帝太元八年（383）七月，符坚下诏，令民每十丁出一人充军。八月，符坚以符融为前锋都督，指挥慕容垂等率领步骑25万先行，自己随后继发。前秦大军有步兵60余万，骑兵27万。苻坚进抵项城（今河南项城县）时，凉州之兵始达咸阳，蜀、汉之兵沿长江顺流而下，幽、冀之兵至于彭城（今江苏徐州），东西万里，水陆齐进。

东晋君臣闻听荷坚亲率大军南下，举朝惶恐不安，唯有谢安临危不惧，从容镇定，“指授将帅，各当其任”。谢安以谢石为征讨大都督，统帅以北府兵为主的8万军队，北上抗击秦军。

苻融统率秦军迅速攻占东晋的淮南重镇寿阳（今安徽寿县），派梁成率兵5万进至洛涧，封锁淮水，以阻晋军。

苻坚赶赴寿阳后，便命东晋降将朱序前往晋营劝降。可是，朱序反将秦军虚实尽告谢石，并且建议应趁秦军尚未全部抵达前线之机，以速战夺取胜利。于是，谢石改变“欲不战以老秦师”的战略战术，乃命刘牢之率5000精兵夜袭洛涧，获得成功，临阵斩梁成等10将，歼灭秦军万余人。接着，晋军乘胜推进，迫近淝水。

秦军紧靠肥水西岸布阵，与晋军隔水相持。晋军前锋都督谢玄要求秦军略向后移，以便晋军渡水到西岸交战。苻坚打算趁晋军半渡淝水时，发动突然袭击，遂不顾将领们的劝阻，断然命令部队后撤。结果秦军顿时陷入混乱，一退不可复止。

谢玄率领晋军渡水，冲杀过来，苻融想要阻拦退兵，却因马倒而被晋军所杀。这时，朱序又乘机在阵后大呼：“秦军败矣！”不明真相的秦军将士四散奔逃，一发不可收拾。在晋军的猛烈追击下，秦军自相践踏而死者，蔽野塞川，不计其数。苻坚为流矢所伤，只带少数人马退回淮北，到达洛阳后，收集残部，仅有十余万人。这就是历史上有名的淝水之战，东晋以少胜多，击败前秦。

淝水之战是东晋十六国时期规模最大的战争，双方胜负的结果是由多种因素促成的。苻坚发动这场战争的目的，在于灭掉东晋，统一全国。但他错误地估计了战争的形势，也过分陶醉于自己所拥有的军事力量，因而缺乏周密的作战计划和充分准备。在秦军取得几次前哨战的小胜之后，符坚就忘乎所以，骄傲轻敌，进而发生一系列战略战术上的失误。另外，秦军虽然号称百万，但真正到达前线并投入战斗的不过20余万人。况且这百万之众是从各族人民中临时征调来的，没有经过充分的军事训练，战斗力不强。

东晋之所以能够取胜，在于强敌压境、生死攸关之际，统治集团同心协力，一致对外。军事指挥者运筹得当，部署有方，战略战术适宜。加以北府兵将士英勇善战，这些对战争的胜利都起到了重大作用。

淝水之战对交战双方都产生了深刻的影响。战后，前秦的统治迅速瓦解，北方陷人更大规模的分裂割据，而东晋解除了强敌的威胁，进一步稳定了它在江南的统治。此后，南北政权之间的对峙局面得以延续。