大业九年（613年）正月刚过，杨广诏令修筑辽东古城，以便存储军粮，同时诏令征发天下之兵，招募百姓训练为骁果，集中于涿郡。所谓"骁果"是指能征善战的士兵，与当时的府兵不同。府兵是指宿卫的义务兵役制，而骁果是募兵制，是向社会广泛招募的士兵。

杨广出台这个政策，一方面是征讨高句丽需要大量军队，另一方面由于一征高句丽损失惨重，府兵暂时入不敷出，需要在短时间内征得兵员，不过这个政策的出台，标志着隋朝兵役制度的变化。

为了适应新兵役制度的管理，杨广诏令设置折冲、果毅、武勇、雄武等将领，招募来的骁果分置左右雄武府，以雄武郎将、武勇郎将为正副长官，上属左右备身府管辖，其中挑选出精练的兵员作为皇家禁卫军。为了让募兵制能够更好地实施，杨广下诏免除录用骁果家庭的赋役，增加领骁果郎将的待遇，从而吸引了不少富家子弟前来应募。

正月二十三日，杨广宣布大赦天下，为二征高句丽讨一个好彩头。他任命刑部侍郎卫文升为京兆内使辅佐代王杨侑留守长安，给予其"便宜从事"之权。三月征发丁男修复加固大兴城，这些措施都是在为二征高句丽做准备。

为了让这次征讨有备无患，杨广赦免了宇文述等人的罪过，让他们继续担任征讨高句丽的将领来将功补过。杨广这次征讨高句丽依旧信心十足，从他对大臣们所说的话就可以看出，他依旧没把高句丽放在眼里∶"高丽小虏，侮慢上国，今拔海移山，犹望克果，况此虏乎。"

杨广的话虽然是为出征的人吃下定心丸，但大臣们却心存疑虑，例如左光禄大夫郭荣就认为，目前全国上下十分疲惫，不能轻易再开启战端，他劝杨广虽然高句丽不尽人臣之礼，但也不必动用全国之力，皇帝御驾亲征前去问罪。上一次不主张出兵的庾质也依旧持反对意见，很多大臣都认为杨广没有必要御驾亲征，但杨广自视甚高，听不进任何人的劝告，一切都必须按照他的意志行事。三月十六日，杨广带领人马出征，任命民部尚书樊子盖等人辅佐越王杨侗留守东都洛阳，随后便带领大军兼程北上，四月二十七日渡过辽水，第二次征讨高句丽的战争就此开始。

杨广二征高句丽的战术没有什么创新，部署几乎和第一次一样，依旧是水陆两军并进。陆军由宇文述挂帅，杨义臣为副帅，带领大军从鸭绿江直奔平壤。水路依旧由来护儿统领，从东莱（胶东半岛）海路进发，两路大军在平壤外围会合后，一同进攻平壤。杨广依旧坐镇后方全盘指挥，各路人马分道进击，攻下高句丽沿途城池。

和上次不同的是，杨广这次没有下诏要求军事行动必须要得到自己的批准才行，不再设置招降宣慰使，但仍设有监军，例如王仁恭带领人马出扶余道，房颜谦监扶余道军。

王仁恭作战十分勇猛，带兵攻打新城（今辽宁抚顺），数万高句丽军队背城列阵，王仁恭率领一千骑兵猛扑敌军战阵，将敌军冲垮。高句丽军队退回城中防守，王仁恭继续指挥后续大军四面围攻，进攻态势十分猛烈，消息传到杨广那里，杨广十分高兴，派专使前往王仁恭大营进行慰问，赐予其很多珍宝。

高句丽方面看到隋军进攻猛烈，采取坚壁清野、据城坚守。杨广亲自统率后路大军来到辽东城（今辽宁省辽阳市），重新布置围攻。当时双方攻防战打得十分激烈，隋军将领郭荣为了攻城立功，亲自为士兵递送箭矢，将近一百天没有卸掉身上的甲胄，杨广看到隋军猛攻不克，也是十分着急，不仅督促众将要加紧围攻，而且他自己也经常亲临战场督战，对那些作战勇猛的将领或士兵加以赏赐。

在辽东城下，隋军用飞楼、橦、云梯、地道等各种方式围攻，但高句丽随机应变顽强抵抗，一直攻了二十多天，依旧没能攻下。杨广于是命令士兵造布囊百余万个，都装满土堆成宽三十步、与城同高的鱼梁大道，让士兵可以登城进攻，又让工匠赶造八轮楼车，高出城墙数米，可以俯射辽东城内。隋军在城外包围了一层又一层，用人海战术连续进攻，可谓是势在必得，一时间高句丽军队伤亡巨大。

在围攻辽东城的同时，隋军其他各路大军也在按计划向纵深推进，宇文述、杨义臣等率军再次进至鸭绿江边。来护儿的水军也集齐东莱海角，准备渡海待发。高句丽在隋军数路大军的猛烈围攻下，形势已经极为严峻，国家甚至已经到了危急存亡之际，但是就在这紧要关头，形势突然发生逆转。

大业九年（613年）六月，在后方督运粮草的礼部尚书杨玄感在黎阳（今河北浚县）举兵造反，并进至东都洛阳，这是杨广万万没有想到的事情。

为应对杨玄感的反叛，杨广不得不马上停止对高句丽的全面进攻，让各路人马立即返回。当然退兵是秘密进行的，六月二十八日夜晚时分，杨广密诏众将，让各引兵速回，军资、器械堆积如山，营垒、帐幕全部弃之而去，而且撤退时散乱成一团，诸道人马分散不成体系，高句丽人在城头上看见后都认为是一大奇观，但也没有贸然出动，当杨广的御营全部渡过辽水后，高句丽才敢进逼隋军后军，歼灭走在最后方的隋军士兵数千人。

在东莱尚未出海的来护儿得知杨玄感造反后，自动放弃了出海进攻高句丽的计划，迅速返回援救东都洛阳。由于自家后院起火，百万隋军又一次狼狈退回，杨广二征高句丽就这样草草收场，不仅一无所获，还损失了很多人马，更让杨广的权威扫地。