宋太祖花了十三年工夫，灭了南方五国，接着，就出兵攻打北汉都城太原。北汉请辽朝出兵援助，宋军吃了败仗。不久，宋太祖也得病死去，他的弟弟赵匡义继承皇位，这就是宋太宗。

宋太宗决心完成统一北方的事业，公元９７９年，他亲自率领四路大军围攻北汉都城太原。辽军又来援助，宋太宗派兵截断援兵要道。太原城在宋军重重包围之中，外无援兵，内无粮草。北汉国主刘继元没法，只好投降。刘继元手下有一名老将杨业，也归附宋朝。宋太宗早就听说杨业武艺高强，十分器重他，任命他做大将。

宋太宗灭了北汉，想乘胜攻打辽朝，收复北方失地。宋军攻势凌厉，北方有几个州的辽朝守将纷纷投降。宋军一直打到幽州（今北京市）。后来，辽朝派大将耶律休哥救援。双方在高梁河（今北京市城西）打上一仗，宋兵大败，宋太宗乘了一辆驴车，逃回东京。

打那以后，辽军不断袭击宋朝边境。宋太宗十分担心，就派杨业为代州刺史，扼守雁门关。

公元９８０年，辽朝派了十万大军攻打雁门关。那时候，杨业手下只有几千人马，兵力相差很大。杨业是个有经验的老将，知道靠硬拼是不行的，就把大部分人马留在代州，自己带领几百名骑兵，悄悄地从小路绕到雁门关北面敌人后方。

辽兵向南进军，一路上没遇到抵抗，正在得意。忽然，后面响起一片喊杀声，只见烟尘滚滚，一支骑兵从背后杀来，像猛虎冲进羊群一样，乱砍猛杀。辽兵毫无防备，又弄不清后面来了多少人马，个个心惊胆战，阵容大乱，哪儿还抵挡得了，纷纷向北逃窜。杨业带兵追赶上去，杀伤大批辽兵，还杀死了一名辽朝贵族，活捉了一员辽将。