开皇三年四月，就在杨坚入主大兴城后不行，杨坚便下诏任命卫王杨爽、河间王杨弘、上柱国豆卢、窦荣定、左仆射高频、右仆射虞庆则均为行军元帅，兵分八路，出塞讨伐突厥。
隋初北部防线大致有两条∶第一道屏障东起临渝（今山海关），沿燕山山脉向西，至阴山山脉、贺兰山脉、宁夏一带的沙漠;在第一道屏障背后，是依次排列的几个重镇∶幽州（今北京市）、马邑（今山西省朔州市）、平凉（（今甘肃省平凉市）、金城（今甘肃省兰州市）、武威（今甘肃省武威市）。突厥南下在东线可以穿过临渝、卢龙、居庸关进攻幽州;中路可以南下马邑，进而威胁晋阳;西路既可以直接南下绥州（今陕西省绥德县），亦可以西进包围平凉;更西则分别进攻武威、金城等地。隋军北伐也可以从这几路北上或者西进，基于上述地形，隋文帝作出如下部署∶
一是以卫王杨爽（杨坚异母弟）为行军元帅，都督行军总管李充、李元节等四将从马邑出塞（朔州道），承担打击沙钵略可汗本部的任务。
二是以河间王杨弘（杨坚堂弟）为行军元帅，都督柱国豆卢勤等将率领数万人马从灵武道（今宁夏回族自治区灵武）出塞，担负打击突厥别部的任务。
三是以幽州总管阴寿为行军元帅，率领数万步骑从卢龙塞（今河北省迁安市以北）出击，负责打击高宝宁。
四是以秦州总管窦荣定为行军元帅，率领九总管三万步骑，从凉州道（今甘肃省武威市）出击，主要战役目的是进攻突厥阿波可汗大逻便。
这四路大军每一路又一分为二，相互呼应，合称为八路。
四月十二日，中路卫王杨爽所部出塞后，即与沙钵略可汗大军在白道（今内蒙古自治区呼和浩特市以北）遭遇。杨爽交给李充五千精锐骑兵，出其不意，掩袭突厥。突厥军队在隋军的突袭下顿时大乱，几乎被隋军全歼。逃亡中，沙钵略可汗脱下金色铠甲扔掉，隐藏在草丛之中才得以脱身。当时，突厥军中缺粮，溃逃中的突厥士兵不得不敲碎野外动物尸体的骸骨充饥，再加上瘟疫流行，死亡惨重。
中路杨爽主力隋军旗开得胜，西路平凉道的杨弘也与突厥军队遭遇，隋军也大破敌人，杀敌数千。
东路幽州总管阴寿一路出塞后，高宝宁自知不敌，向突厥求救。沙钵略可汗正与中路隋军交手，无力分兵，四月十三日，高宝宁放弃和龙（今辽宁省朝阳市），向北逃窜，隋军完全占领营州全境。阴寿班师回幽州，留下开府仪同三司成道昂驻守和龙。高宝宁又派遣儿子高僧加率领骑兵骚扰和龙近郊，不久，又引导契丹、蛛羯军队反攻，成道昂苦战数日，才将高宝宁击退。阴寿为此非常头疼，遂拿出重金悬赏高宝宁的首级，又派人离间高宝宁的心腹赵世模、王威等人，一个多月后，赵世模率领高宝宁的残余部众向隋军投降，高宝宁逃奔契丹，后为部下赵修罗所杀。自此，北齐帝国残余在北齐灭亡六年后彻底被消灭。
五月，秦州总管窦荣定（窦炽之子）率领的西路隋军在凉州与突厥阿波可汗的军队遭遇，双方在高越原（疑在今甘肃省武威市西北）相持。当地没有水源，士兵们渴得要死，以致刺出马血喝下解渴，十之二三的将士被活活渴死。窦荣定仰天长叹，祈祷上天能降下大雨，令人惊奇的是，老天竟然真的降下了大雨，隋军因此士气大振，于是，窦荣定率军出击，突厥军队屡战屡败。
长孙晟当时在窦荣定的军中担任偏将，他派人挑拨阿波可汗说∶"沙钵略可汗摄图每次南下都是大获全胜，而您阿波可汗大逻便刚刚与隋军交手就大败而回，这是突厥的耻辱。况且，您与摄图势均力敌，如今，摄图连胜而您却屡败，摄图为国人推崇，而您却给国家带来耻辱，摄图必定要归罪于您，趁机实施他吞并您领地的阴谋，请您自己考虑一下是否能抵御他?"等阿波可汗的使者来到隋军军中后，长孙晟又说∶"现在，达头可汗已经与我们隋朝联合，而摄图也无能为力，可汗为何不依附天子，再联络达头可汗，三方相互联合，这才是可汗的万全之计，这不是比丧师失地、受到摄图的追究、蒙受羞辱要强吗?"阿波可汗想想有理，遂派人随长孙晟来到长安求和。
沙钵略可汗摄图素来猜忌阿波可汗，当他从白道败归后，途中听说阿波可汗竟然与隋朝结盟了，这让他勃然大怒，遂率军袭击阿波可汗的大本营北牙，大破阿波可汗北牙驻军，并杀死了阿波可汗的生母。阿波从前线回来后，无处可去，只得向西投奔达头可汗。达头可汗听了阿波可汗的哭诉，不禁大怒，遂派遣阿波可汗率领本部人马向东杀来，一路上，阿波可汗的旧部相继回归，人数增至十万骑兵，遂与沙钵略可汗交战，屡屡将沙钵略可汗击败，并收复了原有的领地，兵势比以前更强了。
贪汗可汗素来与阿波可汗私交很好，沙钵略可汗夺去他的部众，将其废黜，贪汗可汗也逃奔到达头可汗那里。沙钵略可汗的堂弟地勒察也与沙钵略可汗有矛盾，他率领本部人马投奔阿波可汗。当初如果不是摄图从中作梗，大逻便早就当上了大可汗，正是因为摄图的威胁致使突厥贵族们违背了佗钵可汗的遗言，没有将汗位传给大逻便，但汗位在佗钵可汗儿子庵逻的手上并不长，就转到了摄图那里，这不能不让大逻便认为这一切都是摄图从中捣的鬼，两人的矛盾由来已久，根本难以调和。突厥汗国内部沙钵略可汗摄图与阿波可汗大逻之间的内战愈演愈烈，双方都向隋朝派来使者请求支援，隋文帝乐得看到他们打得你死我活，谁的请求都不应允。
开皇三年（公元583年）六月十四日，隋行军总管梁远在尔汗山（今青海省青海湖以东）击破吐谷浑。隋军对吐谷浑军队的打击，是对此前叶谷浑军与达头可汗联合进攻隋朝的报复。
沙钵略可汗摄图在西部受到阿波可汗大逻便的挤压，六月，他率领突厥军队大举南下，骚扰隋朝的幽州。五月份的时候，原任幽州总管阴寿去世，隋朝任命广宗公李崇（李穆侄儿）接任幽州总管。李崇接任后，屡屡击破突厥军队，雪部落、奚部落和契丹部落争相归附。当这次突厥大军前来时，李崇率领三千步骑迎战，转战十几天，隋军将士不少都战死沙场，李崇只得边打边撤，退守砂城（今北京市大兴区北），突厥骑兵将砂城团团围住。砂城城墙多处崩塌，年久失修，难以守御，隋军整日苦战，又没有吃的，每天夜里，李崇命令部队趁夜抢来突厥军中的牲畜，让将土们填饱肚子，突厥人遂严加戒备，夜里也是严阵以待，此后，饥肠辘辘的隋军夜里再去偷营，总是落入敌人的埋伏中。
突厥人派人前来劝降，李崇自知无力回天，他对将士们说∶"李崇我战败辱国，罪该万死，今日，我将以死报效国家。你们等我战死后，可以暂时投降敌人，随后再寻找机会逃回国内。见到皇上后。请转告我的本意。"说完，他提刀冲了出去，又杀死了两名突厥士兵，被乱箭射死。七月，隋文帝任命周摇接任幽州总管，命李崇的儿子李敏继承广宗公爵。
八月十六日，隋文帝派遣尚书左仆射高颊率军从宁州道（今甘肃省宁县）出击，内史监虞庆则率军从原州道（今宁夏回族自治区固原市）出击，进攻突厥。此次出兵的战役意图及打击目标均不详，也许是为了牵制沙钵略可汗在幽州方向的骚扰。
隋军这次对突厥的打击持续了数月，取得了辉煌的战果，而隋军最大的战果还不在战场上，而是成功地离间了突厥汗国内部，起到了四两拨千斤的效果。第二年（开皇四年，南陈后主至德二年，公元584年）二月，达头可汗向隋朝投降。数月后，因沙钵略可汗摄图多次被隋军击败，又受到阿波可汗大逻便自西向东、契丹等部落由东向西的夹击，只好向隋朝请求和解。北周千金公主也上书隋文帝请求改姓杨氏，作为隋文帝的养女。隋文帝派遣开府仪同三司徐平和出使东突厥，封千金公主为大义公主。晋王杨广请求趁机灭掉摄图，但隋文帝没有答应。
此时，阿波可汗所居之地东起都斤山，西越金山（阿尔泰山），龟兹（今新疆维吾尔自治区库车县）、铁勒（今新疆维吾尔自治区北部）、伊吾（今新疆维吾尔自治区哈密市）以及西域各族都臣服于他，力量逐渐强大，号称为西突厥，五月，隋文帝也派使者上大将军元契出使西突厥，进行安抚。
七月，沙钵略可汗摄图为达头可汗玷厥所困，又受到契丹的威胁，遂派人向隋朝告急，请求允许自己率众度过沙漠南下，暂时在漠南的白道川（白道附近的山谷之间）避难。隋文帝同意了，命令晋王杨广率军救援，并赏赐给其衣服、食品、车马、仪仗。在白道川休整后，摄图又率军西进，进攻阿波可汗大逻便，将其击败，可是，阿拔国（应为铁勒的一个部落，《读史方舆纪要》称，其地在突厥之西南）乘虚抄了摄图的后路，抢掠了他的妻子儿女们。隋军帮助摄图北上又击败了阿拔国，将缴获的战利品全部送给了摄图。沙钵略可汗摄图大喜过望，遂立下誓言，发誓与隋国以大沙漠为边界，并将儿子库和真送到长安当作人质。
八月二日，库和真来到长安。隋文帝下诏说∶"过去，沙钵略虽然与我国实现了和解，但与我们仍然是两个国家，如今，既然他已经向我称臣，我们就是一家了。"遂举行隆重的仪式向太庙里的祖先牌位报告，并向天下公布这一好消息。为了尊重摄图，凡是给予摄图的诏书都不直呼其名。隋文帝还在内殿设宴款待库和真，让他拜见独孤皇后，赏赐给他很多财物。沙钵略可汗大喜，从此以后，每年都向隋朝朝贡。
从开皇三年开始，隋文帝采取恩威并用、分化瓦解、分而治之的办法，离间了突厥内部，经过两年的努力，大大削弱了突厥汗国的实力，基本上消除了突厥汗国对隋朝的威胁，维护了北部边疆的安全。
