公元３８３年八月，苻坚亲自带领八十七万大军从长安出发。向南的大路上，烟尘滚滚，步兵、骑兵，再加上车辆、马匹、辎重，队伍浩浩荡荡，差不多拉了千把里长。

过了一个月，苻坚主力到达项城（在今河南沈丘南），益州的水军也沿江顺流东下，黄河北边来的人马也到了彭城（今江苏徐州市），从东到西一万多里长的战线上，前秦水陆两路进军，向江南逼近。

这个消息传到建康，晋孝武帝和京城的文武官员都着了慌。晋朝军民都不愿让江南陷落在前秦手里，大家都盼望宰相谢安拿主意。

谢安是陈郡阳夏（今河南太康）人，出身士族，年青的时候，跟王羲之是好朋友，经常在会稽东山游览山水，吟诗谈文。他在当时的士大夫阶层中名望很大，大家都认为他是个挺有才干的人。但是他宁愿隐居在东山，不愿做官。有人推举他做官，他上任一个多月，就不想干了。当时在士大夫中间流传着一句话：“谢安不出来做官，叫百姓怎么办？”

到了四十多岁的时候，他才重新出来做官。因为谢安长期隐居在东山，所以后来把他重新出来做官这样的事称为“东山再起”。

苻坚强大起来以后，东晋的北面边境经常遭到秦兵的骚扰。朝廷想找一个文武全才的将军去防守边境。谢安把自己的侄儿谢玄推荐给孝武帝。孝武帝把谢玄封为将军，镇守广陵（今江苏扬州市），掌管江北的各路人马。

谢玄也是个军事人才。他到了广陵以后，就招兵买马，扩大武装。当时有一批从北方逃难到东晋来的人，纷纷应征。他们中间有个彭城人叫刘牢之，从小练得一身武艺，打仗特别勇猛。谢玄派他担任参军，叫他带领一支精锐的人马。这支人马经过谢玄和刘牢之的严格训练，成为百战百胜的军队。由于这支军队经常驻扎在京口（今河苏镇河市），京口又叫“北府”，所以把它叫做“北府兵”。

这一回，苻坚率领百万大军进攻东晋，谢安决定自己坐镇建康，派弟弟谢石担任征讨大都督，谢玄担任前锋都督，带领八万军队前往江北抗击秦兵，又派将军胡彬带领水军五千到寿阳（今安徽寿县）去配合作战。