慕容垂即位以后，即派遣太原王慕容楷、赵王慕容麟、陈留王慕容绍、章武王慕容宙分头进攻帝国境内的苻定、苻绍、苻谟、苻亮等人。由于慕容麟已经攻陷了博陵，诛杀了王兖和苻鉴，于是，慕容楷先给苻定等人送去劝降书信，恩威并用。苻定等人相继投降。登基以后的慕容垂心态有所变化，他赦免了苻定等人，并将他们封为侯爷，说∶“这是为了报答秦王过去的恩德啊!”

此时，后燕南方的形势又发生了进一步的变化。黎阳的翟辽迅速扩大自己的地盘，东晋新任泰山太守张愿也投降了翟辽，这样一来，在今豫东、鲁西南地区又出现了一股新的势力。翟辽势力横亘在晋军与后燕军之间，从客观上解除了慕容垂的南线可能来自晋军的威胁，同时，翟辽势力一直阻挠着东晋军队的北上，让原本投降的黄河两岸郡县处于左右观望的境地，也让谢安生前确定的“扼守黄河南岸各个据点、招诱黄河以北地区、适时渡河北伐”的计划化为泡影。

谢安去世之前曾上书司马曜，请求“量宜旋筛”，结束这次大规模的北伐。但谢安的意思也并非戛然而止，而是命令龙骧将军朱序进屯洛阳，命前锋都督谢玄“抗威彭沛”，等到第二年再大举北伐。

谢安去世以后，东晋朝廷即以司徒、琅邪王司马道子领扬州刺史、录尚书、都督中外诸军事，谢玄向司马道子请求派遣朱序驻守梁国（河南省商丘市），而自己则率军北渡淮河，将大本营设在彭城（江苏省徐州市）。这样一来，一东一西，既能屏护淮河防线，又可以支援黄河两岸新归附的地区，还能兼顾洛阳。谢玄的计划与谢安去世前的计划不同之处，就在于朱序军的镇守位置。谢安让豫州刺史朱序镇守的是洛阳，而谢玄让朱序镇守的是梁国。

从纯军事的角度上看，谢玄的计划将豫州与徐州、兖州之军集合起来，牢牢扼守着淮北地区，并以此为基点，眼睛时刻瞄着冀州，其着力点在于打击冀州；而谢安身为帝国宰相，以豫州之军镇卫洛阳，更多的还是政治上的象征意义。

此时，东晋朝廷却不愿继续北伐，他们以国家征役已久为由拒绝了谢玄的请求，打算只让谢玄在黄河以南到淮河以北地区设置留守部队，而命令朱序驻扎寿阳，谢玄驻守淮阴。

东晋的这一计划，其中自然有江南国力较弱的因素，但毫无疑问，还有更为复杂的政治原因。

一是司马曜兄弟并无统一中国的雄心壮志。淝水之战的侥幸胜利，让东晋朝廷不仅没有覆灭，而且相继收复了益州、豫州、青州、兖州等地，势力达到黄河南岸。这是司马曜等人始料不及的。对于他们而言，能够取得这样的成绩，已经足够了。

二是巩固皇权。谢安去世后，孝武帝采取了一系列巩固皇权的措施，首先就是依靠宗室，除任命弟弟司马道子为都督中外诸军事之外，还重用谯王司马无忌的儿子司马恬，将其提拔为尚书右仆射。史称∶“恬既宗室勋望，孝武帝时深杖之。”其次依靠江南士族。他提拔江南大族陆玩的儿子陆纳为尚书左仆射。陆纳与其父陆玩性格相仿，不折节于权贵。陆玩曾对王导不以为然，而陆纳过去对谢安也不甚感冒。再次，任用亲信王雅。王雅曾任太子左卫率，是孝武帝司马曜的亲信，史称孝武帝对其深加礼遇，每次举办宴会，王雅未到，司马曜不先举杯。

三是排挤谢氏。虽然谢安、谢玄叔侄均淡泊处事，但力图恢复皇权的司马曜仍然对陈郡谢氏心存忌惮。谢安去世以后，司马曜长长地松了一口气，并于谢安去世后的第二个月才开始追论淝水之战的功劳。司马曜追封谢安为庐陵郡公，封谢石为南康公，谢玄为康乐公，谢琰为望蔡公，桓伊为永修公。这当然是对陈郡谢氏的安抚，但与此同时，司马曜又采取了一系列排挤谢氏的措施，比如，谢安死后，司马曜即提拔了谢氏的政敌王珣，史称“安卒后，迁侍中，孝武深杖之”。谢安去世以后，谢氏遭到了很大的打击。虽然谢石接替了尚书令、卫将军的职务，但是谢石素无令誉，只因是谢安的弟弟而且又是淝水之战的主帅，立有大功，这才成为尚书令。

在这种大的政治背景下，如果继续实施北伐的话，一方面谢氏控制下的徐兖军队会越战越强，另一方面谢氏也会重新赢得巨大的声誉。这是孝武帝司马曜不愿意看到的，也是他没有采纳谢玄北驻彭城、并让朱序北出梁国的原因。不久，黎阳失守、张愿背叛，东晋在黄淮新占领区内的统治发生动摇，北伐成果得而复失，这让谢玄深感不安。而此时谢玄又身染疾病，他上书司马曜恳切要求治病。司马曜下诏以朱序代替谢玄镇守彭城，而让谢玄回到淮阴，不久又回到京口。