公元581年，突厥沙钵略可汗率军联合高宝宁大举南下，准备进攻新生的隋王朝。与此同时，南方的陈朝得知突厥南下的消息后，为了扩大都城建康的防御空间，也开始兴兵北上。除此之外，西边的吐谷浑也借机进攻隋朝的河西走廊地区。一时之间，隋朝面临着南边的陈朝，东北方向的高宝宁，北方的突厥以及西边的吐谷浑，形势相当危机。

虽然新生的隋王朝忽然面临来自四面的敌人，但杨坚一眼就看出，这些敌人还都各自为战，没有形成抗隋联盟。但是如果战争一再拖延下去的话，或许敌人会为了尽快结束战争而结成统一战线，形成合力进攻的军事同盟，那将对隋朝极为不利。

所以，杨坚必须利用宝贵的时间，尽快打破四面敌人的包围。

杨坚认为南方陈朝虽然进攻声势浩大，但内部矛盾重重，陈宣帝虽然很想有所作为，但朝廷内部派系林立，而且其军队大多是水军，随着其进攻的不断加深，陆战肯定不是隋军的对手。而吐谷浑虽然能征善战，但国内资源匮乏，且军制落后，缺乏统一的指挥，强大的攻势难以持久。突厥在这些敌人中最为强大，双方免不了要有一场大战，这场战争其实才是决定隋朝命运的关键一战，而且高宝宁和突厥不断勾结，如果打败突厥，高宝宁势力就会自然瓦解。

杨坚经过详细的分析，最终确定了打击顺序，制定了先易后难的策略，首先将打击目标锁定南陈和吐谷浑，将最强大的对手突厥留到最后。

开皇元年（581年）三月，杨坚任命大将贺若弼为吴州总管出镇广陵（今江苏扬州），大将韩擒虎为庐州总管出镇庐江（今安徽庐江县）。

由这两员大将一同镇守南方，实在是最好的选择，需要指出的是，当时贺若弼到达广陵后，确实以平陈为己任。但坦白讲，杨坚派贺若弼出镇南部边境，并不是要马上灭陈，那个时间段并不是灭陈的最好时机。贺若弼的想法与杨坚的通盘考虑计划有冲突，毕竟当时隋朝最大的敌人是突厥，杨坚仅仅想顶住南陈的进攻。毕竟平陈要举全国之力，以隋朝的情况，还不足以支撑南北两线作战。

为此，杨坚特意为寿州总管元孝矩下玺书，对南方战场的战略方针做了明确的指示∶"扬、越氛驳，侵轶边鄙，不识大猷。以公志存远略，今故镇边服，怀柔以礼，称朕意焉。"

杨坚希望只要收复江北失地，将陈军赶回自己的国境内就可以。这表面上看是忍让，实则是审时度势的战略决策。这就决定了贺若弼和韩擒虎等将领在南线战场的战斗，是解除南线战场压力的局部战斗，不是一场置对方于灭国的战斗。杨坚当时最担心的并不是将领们能不能打，而是担心将领们不能理解自己的意图而无节制地打下去。所以当陈军渡过长江攻城略地之时，杨坚一方面派大将予以回击，另一方面又派高颖奔赴南方前线节制诸军，让南线战场的战斗始终处在可控的范围。

到了九月，隋军集中优势兵力，向陈军发起凌厉的进攻，东南道行军元帅长孙览带领八大总管，从寿阳对陈军发起攻击，击退陈将钱茂所带领的数千人马偷袭，然后会战陈将陈纪、周罗喉等人，将其全部击退。

当时贺若弼收复大片江北失地，并一举平定相应陈军作乱的东潼州刺史曹孝达，行军元帅元景山带领总管韩延、吕哲出汉口，一举攻克渴口（今湖北汉川）。另一员大将邓孝儒领精兵四千进攻甄山镇（今湖北汉川东南），大破陈将陆纶赶来增援的水师部队，成功收复了司马消难叛乱时献给陈朝的重要军事基地。

到了年底，隋朝的南线反击战取得了预期效果，江北失地基本收复。隋军在长江北岸一线展开，大有乘胜渡江一举攻灭陈朝之势。此时陈军已经被打得胆战心惊，不仅全部退回自己的国境，而且再不敢有进军江北的想法，只希望隋军不要打过长江就好。陈宣帝本来有雄心壮志，想趁隋朝内忧外患之际扩张自己的领土，但没想到隋朝居然如此生猛，现在居然被人打回老家，心里不禁又急又恼，急火攻心一命归西。

新即位的陈后主很识趣，派遣使者渡过长江向隋军请和，并归还了先前攻占的胡墅（今江苏南京长江北岸）等城池，算是主动低头认错。面对陈朝的主动低头，杨坚趁此机会与陈朝讲和，将军队全部撤往北方，为北征做好准备。杨坚采纳了高颖的建议，至此隋朝的南线战事暂时告一段落。

在南线战场对陈作战的同时，杨坚在帝国的西北方向对吐谷浑也展开了反攻。

八月，杨坚任命元谐为行军元帅，率领行军总管贺娄子干、郭竣和元浩等数万人马反击吐谷浑，针对此次作战，杨坚特意下诏为元谐做了指示。

这个指示其实与对陈作战的指示很相似，杨坚同样只是叫元谐击退吐谷浑，并没有下令继续扩大战事。

元谐带领隋军从鄯州（今青海乐都）发起攻击，吐谷浑也是大军倾巢出动，从曼头（今青海共和县）至树敦绵延百十里，其定城王钟利房带领三千骑兵，联合南方的党项部落，渡河向东推进准备迎击隋军，隋军主帅元谐则采取包抄之策，直插青海，准备切断吐谷浑大军的退路。

当时双方在丰利山（今青海青海湖东）下遭遇，于是隋军与吐谷浑两万大军展开了一场遭遇战。经过一番激战，隋军击退叶谷浑大军，并乘胜进逼青海湖，直抵其大本营。吐谷浑不甘心失败，派太子可博带领五万大军反扑，双方再次展开了一场遭遇战。不过，由于吐谷浑是各个部落的联合体，不像隋军有统一的指挥，战事顺利还可以共同进击，一旦稍遇挫折便各自逃散。隋军在元谐的指挥下对吐谷浑大军进行猛烈冲击，最终吐谷浑各个部落为了保存实力，大部分撤回了自己的地盘。

经过打击南陈和吐谷浑的两场反击战，隋朝在突厥大举入侵之前，很快解除了来自西部和南部的威胁，也打破了敌人四面包围的窘境，同时化解了敌人结盟抗隋的隐患。现在杨坚终于可以腾出手来，专心致志地解决最强大的敌人突厥了。

公元582年四月，突厥骑兵深入鸡头山（今宁夏夏隆德县），被隋朝大将军韩僧寿击败，另一路突厥骑兵则在河北山（今内蒙古狼山与阴山合称）被隋朝上柱国李充击退。虽然这两场战役隋朝取得胜利，但这仅仅是突厥的试探性进攻，并没有展现出突厥的真正实力。此时突厥人的主力部队在漠北集结完毕。五月，沙钵略可汗带领四十万大军越过长城，正式揭开了这次改变两国命运，乃至当时东亚地区格局的战争序幕。

突厥这次进攻声势浩大、来势凶猛，高宝宁当时也配合突厥大军向平州（今河北卢龙）发起进攻。当杨坚得知突厥大军已经突破长城南下的消息时，立即命令柱国冯昱驻守乙弗泊（今青海乐都）、兰州总管叱李长叉镇守临洮，上柱国李崇驻守幽州，将军达奚长儒据守周槃，进行边境上的全线防御。

六月九日，杨坚又命令卫王杨爽为凉州总管、行军元帅，率领七万大军出平凉（今甘肃平凉），三天后上柱国李充在马邑（今山西朔州）击退突厥的进攻，突厥转而进犯兰州（今甘肃兰州）。杨坚急调叱李长叉为兰州总管，在该地区坚守据敌，同时让贺娄子干领兵驰援，双方在可洛咳山遭遇突厥骑兵，隋军据河坚守，切断敌军水源，等到敌军人马疲惫之时，纵兵突然袭击，大破突厥军队。

隋军虽然取得不少胜利，但是从整个战略角度来看，隋军的防御点被多处突破，其中驻守乙弗泊的行军总管冯昱遭到突厥数万骑兵的袭击，冯昱虽然拼死抵抗，但还是被突厥军队打败，驻守临洮的兰州总管叱李长叉也被突厥打败。与此同时，在东部战场，突厥与高宝宁联军突破隋军防线，大举进攻幽州，上柱国李崇出战被打败。

鉴于西部战场各个据点被突厥接连突破，杨坚在八月以左武侯大将军窦荣定为秦州（今甘肃天水）总管，在西部战场重新进行纵深布防。

可是一直到十月为止，西部战场的形势并没有好转，西北长城沿线重要的州郡接连陷落，突厥大军攻破木峡、石门两关，进而分兵南下，越过六盘山，挺进渭水、泾水流域，开始对长安形成威胁。而此时杨坚又由于操劳过度而病倒，只好让太子杨勇领兵驻守咸阳以统筹大局，在长安西面建起了一道防线，又派内史监虞庆则为元帅，前往弘化（今甘肃庆阳）拒敌。

虞庆则到达弘化后，命令行军总管达奚长儒领兵两千出击，刚走出弘化没多远，就在周槃遭遇突厥大军而陷入重围，隋军立即大乱，达奚长儒倒是十分镇定，激励士兵死战求存，在军心稳固之后，他把全军集结成阵且战且退，经受住了突厥骑兵排山倒海般的反复冲击，历经昼夜十四战，很多次被打散之后又重新集结起来，就这样坚持了整整三天。达奚长儒身先士卒奋勇杀敌，虽然身受五处刀伤，却犹如铁塔般屹立不倒，因此激励全军将士奋勇杀敌，就这样坚持着逐渐撤回了弘化，但是虞庆则看到突厥大军来势凶猛，竟然不敢出城相救。

突厥人本来是为了劫掠财物而来，完全没有想到会遭遇如此顽固的抵抗，十分震惊。不可思议的是，面对达奚长儒所带领的已经所剩无几的隋军，突厥人竟没有发起最后的进攻，只是匆匆焚烧了伙伴的尸体而撤退。

从战略角度来看，隋军在战场上并没有打败突厥，甚至失败要更多一些，但是在另一条战线上，一场秘密的战争正在悄然进行，长孙晟对突厥的离间策反工作，开始逐渐取得效果。

在西方，突厥面临着新崛起的萨珊波斯，曾经联合东罗马一同进攻，但是进展并不顺利，最终被迫而回，因此双方有直接的利害冲突。杨坚当时就形容突厥是"东夷诸国，尽挟私仇，西戎群长，皆有宿怨。突厥之北，契丹之徒，切齿磨牙，常伺其便"。

类似突厥这种游牧民族，其实是个情绪很不稳定的民族，遇到战事顺利，可以展开急风暴雨般的进攻，一旦战事不顺，潜在的矛盾顷刻之间就会爆发，进而影响战局。隋朝大军的顽强抵抗，让突厥每前进一步都要付出高昂的代价，于是其前线积累的内部矛盾，逐渐再次显露出来，其表现出来的就是被隋朝收买的达头可汗不愿意再继续南下，而是率部挟裹战利品北归。

达头可汗擅自撤离战场的行为，让沙钵略可汗倍感愤怒，此时长孙晟悄悄出现在了沙钵略侄子染干面前，极为神秘地在他耳边低语了几句，话还没有说完，染干已经面如死灰，立即跑到沙钵略面前，告诉他北方铁勒部族造反，打算偷袭可汗牙帐。

沙钵略闻言大惊失色，立即领兵将其已经攻占的凉州、秦州、安定、金城、上郡、弘化和延安等地，尽皆大肆劫掠之后，便匆匆退出塞外。

开皇三年（583年）春天，突厥人再次蠢蠢欲动，刚进二月就在边境与隋军发生一场小规模战役，四月便大兵压境。与此同时，前年被隋军打败的吐谷浑又陆续迁回原地，也趁此机会进攻临洮（今甘肃临潭），刺史皮子信出战迎敌，兵败被杀。汶州（今四川茂县）总管梁远率领精兵赶来驰援，这才将吐谷浑打退，但不久后又转攻廓州（今青海贵德）。

吐谷浑的卷土重来，提醒杨坚必须要对突厥予以重创才行，否则即使将其打退，也不能掌握战场主动权，只能是让突厥人牵着鼻子走，这样周边其他部族就会跟着突厥一起趁火打劫，进而为隋朝带来更大的祸乱。

最关键的是，隋朝变单纯防御为积极反攻的条件正在逐渐形成，经过去年的那场大战，隋军还是经受住了考验，虽然最终并没有真正打败突厥，是突厥主动撤兵，但在几次战役中，隋军并不落下风，已经培育起了战胜突厥的信心。突厥内部的矛盾逐渐表面化，具体表现就是达头可汗与沙钵略可汗之间的矛盾，使其难以成为号令统一的整体。在杨坚看来，只要再加把劲，就会造成其内部的分裂，因此杨坚决心将突厥内部的矛盾利用到底，进行各个击破，给予沙钵略可汗以决定性打击，实现我攻敌守的战略转折。