晋安帝复位后，刘裕掌握了东晋大权。刘裕本来是个出身贫苦的小军官，在士族中没有什么地位。他为了提高自己的威望，决定发动北伐。

公元４０９年，刘裕从建康出发，先出兵包围了南燕（十六国之一）的国都广固（今山东益都西北）。南燕的国主慕容超着急了，向后秦讨救兵。

当时，后秦在北方是个比较大的国家。后秦国主姚兴派使者到晋军大营去见刘裕，说：“燕国和我们秦国是友好邻国。我们已派出十万大军驻扎在洛阳。你们一定要逼燕国，我们不会坐视不救。”

刘裕听了使者这番威胁的话，冷笑一声说：“你回去告诉姚兴。我本来打算灭掉燕国之后，休整三年再来消灭你们。现在既然你们愿意送上门来，那就来吧！”

使者走了以后，有人对刘裕说：“您这样回答他，只怕激怒了姚兴。如果秦兵真的来攻，我们怎么对付？”

刘裕泰然说：“你就不懂得这个理儿。俗话说：‘兵贵神速’，他们如果真的要出兵，就会偷偷出兵，何必先派人来通知呢？这完全是姚兴虚张声势，吓唬我们。我看自己也顾不过来，哪有什么能力救人呢。”

不出刘裕所料，那时候后秦正跟另一个小国夏国互相攻打，还打了败仗，更谈不上出兵救南燕。没有多久，刘裕就把南燕消灭了。

过了几年，刘裕平定了南方的割据力量，再一次北伐，进攻后秦。他派大将王镇恶、檀道济带领步兵，从淮河一带出兵向洛阳方向进攻，自己亲自率领水军沿着黄河进军。

那时候，北方鲜卑族建立的北魏开始强大起来，它的势力已经发展到黄河北岸。北魏在北岸集结了十万大军，威胁晋军。刘裕的水军沿着黄河前进，有时风猛水急，晋军的船只被水冲到北岸，就受到魏兵的攻击。