北宋灭亡以后，原来留在相州的康王赵构逃到南京（今河南商丘）。公元１１２７年五月，赵构在南京即位，这就是宋高宗。这个偏安的宋王朝，后来定都临安（今浙江杭州），历史上称做南宋。

宋高宗即位以后，在舆论的压力下，不得不把李纲召回朝廷，担任宰相。但是实际上他信任的却是黄潜善和汪伯彦两个亲信。

李纲提出许多抗金的主张。他还跟宋高宗说：“要收复东京，非用宗泽不可。”

宗泽是一位坚决抗金的将领，北宋灭亡之前，宋钦宗曾经派他当和议使，到金京议和。宗泽跟人说：“我这次出使，不打算活着回来。如果金人肯退兵就好；要不然，我就跟他们争到底。宁肯丢脑袋，也不让国家蒙受耻辱。”

宋钦宗一听宗泽口气那么硬，怕他妨碍和谈，就撤了他和议使的职务，派他到磁州去当地方官。

金兵第二次攻打东京的时候，宗泽领兵打击金兵，一连打了十三次胜仗，形势很好。他写信给当时的康王赵构，要求他召集各路将领，会师东京；又写信给三个将领，要他们联合行动，救援京城。哪知道那些将领不但不愿出兵，反嘲笑宗泽在说疯话。宗泽没办法，只好单独带兵作战。有一次，他率领的宋军遭到金军的包围，金军的兵力比宋军大十倍。宗泽对将士说：“今天进也是死，退也是死，我们一定要从死里杀出一条生路来。”将士们受到他的激励，以一当百，英勇作战，果然杀退了金军。

宋高宗早就了解宗泽的勇敢，这次听了李纲的推荐，就派宗泽为开封府知府。

这时候，金兵虽然已经撤出开封，但是开封城经过两次大战，城墙全部被破坏了。百姓和兵士混杂居住；再加上靠近黄河，金兵经常在北岸活动。开封城里人心惶惶，社会秩序很乱。

宗泽在军民中有很大的威望。他一到开封，先下了一道命令：“凡是抢劫居民财物的，一律按军法严办。”命令一下去，城里仍旧发生了几起抢劫案件。宗泽杀了几个抢劫犯，秩序就渐渐安定了下来。