宋太宗見目地達到，故作大方，將奏折轉交給楊業，以示自己對其的信任。
雍熙三年（986年），宋太宗決定北伐遼國，收複燕雲十六州。以忠武軍節度使潘美為雲、應路行營都部署，任西路軍主將，楊業為副主將，西上閣門使、蔚州刺史王侁，軍器庫使、順州團練使劉文裕為護軍。
各路大軍接連攻下了雲州、應州、寰州、朔州四個州，軍隊駐紮在桑乾河邊，恰逢東路曹彬的部隊出師不利，在岐溝關之戰中慘敗，各路軍馬都被撤回，潘美等人回到代州。
不久，朝廷下詔把這四個州的百姓遷徙到內地，命令潘美等人帶領部下的軍隊保護百姓。
當時遼朝蕭太後和大臣耶律漢寧、南北皮室以及五押惕隱率領軍隊十多萬人，再次攻陷了寰州。楊業對潘美等人說：“遼兵兵力和士氣很旺盛，不能和他們交戰。朝廷隻是讓我們護送這幾個州的百姓，隻需帶領部隊從大石路出發，先派人秘密告訴雲州、朔州的守將，等到大軍離開代州的那天，命令雲州的軍民先出發。我的部隊駐紮在應州，契丹人必然來抵抗，就下令讓朔州百姓出城，直接進入石碣穀。派一千弓箭手埋伏在穀口，命騎兵在中路支援，那麼三州的百姓，就能夠萬無一失了。”
王侁反駁他的建議說：“帶領好幾萬精兵卻如此畏懼怯懦。隻需直奔雁門北川，大張旗鼓的前進。”劉文裕也讚成王侁。
楊業說：“不行，這樣一定會失敗。”
王侁說：“將軍一直號稱‘無敵’，看到敵人卻猶豫不前，難道有彆的心思嗎？”
楊業說：“我不是怕死，隻是時機對我們不利，白白讓士卒死傷卻立不了功。您責怪我為何不死，我應當在大家前麵。”
將要出發的時候，楊業哭著對潘美說：“這次行動一定對我們不利。我，是太原的降將，按理應當處死。皇上沒有殺我，恩寵我讓我做了將帥，交給我兵權。不是我放過敵人不去攻擊，隻是想等時機，準備立點軍功來報效國家。大家責怪我躲避敵人，我應當率先死命殺敵。”並指著陳家穀口說：“各路軍馬在這裡擺開步兵、弓箭，支援左右翼的兵力，等我轉戰到這裡，就用步兵夾擊敵人救援你們，否則，都會被敵人所殺。”
潘美於是和王侁率領部下的兵馬在穀口布陣。
遼朝視楊業為大患，要求務必生擒楊業。遼將耶律斜軫聽說楊業出兵後，令蕭撻凜設下埋伏。
等楊業領兵到來時，耶律斜軫與之交戰，佯裝敗退，然後伏兵四起，耶律斜軫再次進攻，楊業退至狼牙村。
從寅時到巳時，王侁派人登上托邏台眺望，以為契丹軍隊被打敗撤走，都打算爭功，立即率兵離開穀口。潘美不能製止，於是沿著交河向西南行軍二十裡。不久聽說楊業戰敗，立即帶兵後退。
楊業奮力交戰，從中午到傍晚，來到陳家穀口。一看沒有人，就拍著胸膛非常悲慟，繼續率領部下士兵奮力作戰，身上受了十多處傷，士兵都快死光了，楊業依然親手殺了數百名遼軍。戰馬受了重傷不能前進，藏身林中，中遼將耶律奚低之箭，落馬被俘。
楊業歎息說：“陛下待我很豐厚，我期望征討敵人保衛邊境來報效他，反而被奸臣所脅迫，導致軍隊被打敗，有什麼臉麵活著呢！”於是絕食三天而死。時為雍熙三年（986年）七月十二日。耶律斜軫割下楊業的腦袋，獻給遼廷。
楊業的英勇事跡被傳為佳話，遼朝也在密雲古北口修建楊無敵廟，以祀奠楊業。