刘崇与后周皇帝柴荣讲和。只不过刘崇恨柴荣入骨，更想借助契丹骑兵灭掉后周，独霸天下，压根不听杨业苦谏。后来刘崇宠信奸臣，横征暴敛，弄得上下离心。宋太宗趁机兴兵北伐，消灭了刘崇。他素闻杨业威名，将其收降，拜郑州刺史，授右领军卫大将军，后调任云州观察使、代州刺史兼三交驻泊兵马部署，为宋国镇守北疆，抵挡契丹大军南下。杨业曾在雁门关大破辽军，威震契丹。直到雍熙三年，杨业随军北伐，为大将潘美的副将。只是此战宋军主力曹彬失利，潘美和杨业被迫撤军。监军王侁威逼杨业反击契丹大军，杨业据理力争，却被王侁侮辱，他毅然带兵出征，被辽军重兵围困，身受重伤被俘，竟然绝食而死。杨业死后，其六子杨延昭仍然镇守边关，多立战功。民间可怜杨氏一门忠烈，纷纷传说杨家父子与契丹大战的故事。到得后来，有人将杨家父子的故事写在书中，四处传播。其中不免夸大杨氏父子的战绩。杨业的名字在书中变成了“杨继业”，不过民间多称其为杨老令公而不名之。