大业八年（612年）正月初一，杨广从全国征调的一百多万人马齐集涿郡。这么多人处在涿郡一个地带，增加了后勤补给的困难，一百多万人毕竟要人吃马喂，而且杨广还带着宫女、戏子、仪仗队等，如果不了解内情的还以为杨广像北巡突厥一样，要东巡高句丽。当时也有人对如此不严肃的出兵表示反对，时任右尚方署监事耿询和给事中许善心上疏劝谏，但杨广拒绝纳谏。庾质为杨广分析认为，征讨高句丽应该"出其不意，事宜在速"，杨广也没有听进去，依旧让大军一起出兵辽东。
杨广任命兵部尚书段文振为前敌总指挥，段文振同意庾质提出的"出其不意，事宜在速"的方针，毕竟辽东地区地处北方高寒地带，冬季严寒自然无法出兵，从时间上来看，真正留给隋朝的只有四月到九月的半年时间，还要除去夏季雨季时道路泥泞的因素，一旦陷入持久战，隋军基本上没有胜算。遗憾的是段文振后来病逝于行军途中，没有真正担负起总指挥的责任，真正的指挥者是过分自信的杨广。
杨广在完成一切动员工作后，于大业八年（612年）正式下诏讨伐高句丽。在诏文中杨广称高丽王高元是"小丑"，斥责他无视君臣之礼，假冒蛛竭人入侵辽东等，基本上和当年隋文帝杨坚讨伐高句丽的诏书一样，总之就是隋军是正义之师，两国之所以有战争完全是高句丽的责任。
如果单看诏书的内容，杨广真的是义愤填膺，而且从整个动员工作来看，大有不拿下高句丽誓不罢休之势，但事实上杨广根本就没有认真考虑进攻高句丽的战术问题，例如大军出发后并没有快速行军，更谈不上出其不意。杨广将征讨大军分成二十四路，每天派出一路人马，每军前后间隔四十里，用了二十四天的时间整个大军才全部发完，结果是整个大军排成了一字长蛇，前后绵延将近一千里，看上去倒像是一次大阅兵。这种行军方式根本就不是要准备打一场大战，当然杨广也没有认为这是一场恶仗，所以也就谈不上有什么针对性的战术，甚至在前往辽东的路上依旧讲究排场。
大业八年（612年）三月，杨广带领大军经过两个月行军后，终于集中在辽河边。隋军声势浩大，高丽王高元并没有被吓倒，而是集中全国力量准备拼死抵抗隋军，对比隋军的懒散情况，高句丽反而是上下同仇敌忾，发誓要将隋军阻挡在辽河以西。
杨广命令工部尚书宇文恺在辽河上搭建三座浮桥，就在桥还距离对岸一丈多就建好的时候，高句丽派小股部队骚扰，隋军下水接战，高句丽弓弩手在岸上乘高放箭射击，隋军无法登岸，一时间死伤无数，只得败退回到本方。隋军中以右屯卫大将军麦铁杖为首的几员战将认为不应该就此退兵，于是只身跳上辽河东岸与高句丽士兵展开肉搏，结果寡不敌众全部战死。
麦铁杖等人战死，是隋军征讨高句丽的第一战，初战不利让杨广感受到了战争的惨烈，但这毕竟只是刚刚接战，杨广并没有就此失去信心，又命令何稠继续造桥，两天后浮桥造成，大军随即渡过辽河，与高句丽大军激战于辽河东岸，这一次高句丽军队没能抵挡住隋军的进攻，隋军乘胜包围辽东城（今辽宁朝阳），杨广的车驾也随即渡过辽河。
辽河东岸一战的胜利对于杨广具有重要的意义，印证了杨广对战争形势的预判，所以他欣喜万分，特意下诏大赦天下，派人安抚占领区，并设置郡县进行管理。
杨广认为辽河东岸一战隋军的胜利，应该能让高句丽思考投降的问题，所以杨广只是包围了辽东城而没有发动进攻，但是一直到四月底也未见高句丽投降，杨广对此并没有应对方案，因此更加谈不上下一步的作战方案。进了五月后，杨广终于按捺不住，下令隋军水陆并进，其中水路大军由右翊卫大将军来护儿统领，先行进入测水（今朝鲜大同江）。陆路大军也齐头并进，长驱直入高句丽都城平壤附近，双方约定在平壤城下会合。
本来隋军两路大军的进攻态势不错，但让人费解的是，杨广下诏告诉前敌战将不能轻易冒进，凡是有军事行动的都必须先要向自己汇报，貌似担心前敌战将冒险贪功。于是众将只能奉诏，互相监督而不敢进兵，这样就为高句丽守城提供了宝贵的准备时间，致使隋军进展缓慢，围攻辽东城也是很久没有攻下。
在此之前，隋军对辽东城并没有采取什么猛烈的攻势，现在已经下诏让诸军不可冒进，为了促使高句丽尽快投降，杨广又命令猛攻辽东城，算是软硬兼施。不过，高句丽人也十分狡诈，眼看辽东城即将失守便采取诈降之策，诸将既然已经得到杨广明旨，所以不再敢进攻，只得飞报杨广，等到批复回来后，辽东城又再一次做好城防，隋军最终错过了拿下辽东城的最好时机。
来护儿带领水军沿浿水而上，到达平壤以西六十里的地方与高句丽大军相遇，来护儿第六子来整带领人马击退敌军。来护儿认为高句丽不堪一击，于是不听副总管周法尚的劝阻，挑选精兵四万人，乘胜直奔平壤城下。
高句丽方面设伏兵于城内的郭空寺中，然后出城与来护儿交战佯装败退，引诱隋军进入平壤城。隋军入城后纵兵四掠，整个军队完全失去控制，高丽王高元的弟弟率领伏兵突袭隋军，来护儿仓促应战损失惨重，慌忙退出城外，高句丽军队一直追击到隋军在浿水旁的战船前，幸好周法尚列阵迎战，保证了败退回来的隋军顺利回到船上，高句丽军队也不敢久战，便撤退回城。由此，来护儿的水军已经无法按先前的计划，与陆军会合于平壤城下。
陆军方面的情况还不如水军，隋军猛攻辽东城无果，于是便绕过辽东城向东而行，几路大军会合于鸭绿江西，试图过江南下直奔平壤，会合水军后围攻平壤城。但是人马众多、补给困难，高句丽坚壁清野，几路大军的军需物资需要自行负担，当初大军从泸河（今辽宁锦州）、怀远（今辽宁辽阳西北）二镇出发时，各路人马只带了百余天的粮食，还有大量的武器等，每名士兵平均负重三石以上，结果很多士兵为了减负，半路上悄悄挖坑将粮食掩埋，以减轻行军负担，指望到达高句丽境内时能够抢到粮食吃，结果大军行到半路便已经断粮。
当时隋军有九路大军共计三十余万人渡过鸭绿江，从乐浪道出来的老将于仲文计划比较周密，他领兵到达乌骨城（今辽宁凤城）后，故意挑选老弱的马匹置于军尾，自己则率领大军向东进发，高句丽军队出兵劫杀后路辎重，于仲文突然突袭，将高句丽军队打败。
高元得知隋军战斗力勇猛后，便派宰相乙支文德到隋军大营诈降，实则探听隋军的整体战略部署。其实，杨广大张旗鼓的出兵本身没有秘密可言，高句丽知道杨广有投降不杀的诏令，诈降会取得一定效果，所以乙支德文到了隋军大营如入无人之境。
但是杨广事先也秘密布置于仲文，如果是高元或者乙支文德前来投降的话，务必将其擒拿，所以于仲文想趁机将乙支文德擒获，但是隋军中以宇文述为代表的一些人认为，既然皇帝有投降不杀的诏令，就应该坚决奉诏，所以阻止了于文仲的做法。当时隋军几路大军没有一个统帅，众将意见不一，最终错失了擒获乙支文德的机会，将乙支文德放走。
乙支文德离开后，众将又有些懊悔，宇文述以断粮为借口想要就此退兵，于仲文则不甘心无功而返，想要带领精锐部队追击乙支文德，而且告诉众将，既然已经和水军相约平壤城下，就不应该就此退兵，如果打了败仗将由自己承担。众将看到于文仲态度坚决，也都不忍心再拒绝，于是众将各自指挥人马渡过鸭绿江追击乙支文德，而乙支文德则老谋深算，一路引诱隋军深入，一天之内双方接战七次，隋军全都获胜，都是高句丽败退而走，隋军就此放开脚步长驱直入，一直追到距离平壤城三十里的地方，傍晚时分依山扎营，却没有看到约定而来的来护儿统领的水军。
此时狡猾的乙支文德再次前来诈降，声称只要隋军撤退，便让高丽王前往杨广的行宫朝见。经过一天的追击，隋军已经疲惫不堪，军中粮草所剩不多，来护儿的水军又没有应约而至，答应出兵协助隋军的百济军队也迟迟不见踪影，平壤城又防守十分坚固，在这种情况下，隋军答应了高句丽的投降而退军，也算是不失体面的回军。
但是，就在隋军撤退时，高句丽军队趁机四面突袭，隋军几路人马结成方阵且战且退，七月二十四日退至萨水（今青川江），军队刚刚渡河一半，高句丽军队便从身后发起攻击，隋军顿时溃败，右屯卫大将军辛世雄战死，各路人马争相逃命，在一天一夜的时间里，溃败的隋军跑了四百五十里，一直到鸭绿江边方才稳住阵脚，幸好殿后将军王仁恭、李景等人在后军拼死抵抗，才阻挡住高句丽军队的追击。将军薛世雄在白石山被包围，拼死突围后，身边只剩下二百余人。陆军人马只有卫文升一军没有损失。水军的来护儿得知陆军溃败后，渡海回到隋朝境内。
杨广征讨高句丽宣告失败，而且部队损失惨重，当初渡过辽河的九路大军共计三十五万人，现在回到辽河以西的只剩下不到三千人，物资器械更是损失殆尽，唯一的战果就是攻取了辽河以西的武厉逻（今辽宁法库），其余都是一败涂地、一无所获。跟随出征的很多亲王和元老大臣也病逝途中，包括段文振、宇文恺、元寿、杨雄、杨达等人。
杨广当然是不甘心失败的，在班师回朝路过涿郡时，下令将黎阳、洛阳、洛口、太原等地谷仓粮食搬到辽西的望海顿（今辽宁辽西），让民部尚书樊子盖留守涿郡，为明年再征高句丽做准备。
九月十三日，杨广带领大队人马回到东都洛阳，开始追究征讨高句丽的失败责任。首先斩杀右丞刘世龙以谢天下，又将宇文述、于仲文革职为民，让监军的游元担任御史加以审讯，杨义臣被免官，宇文述因为和杨广是儿女亲家，虽然被关进大狱，但不久后释放。因为于仲文曾经说打了败仗他将承担全部责任，所以众将都将罪过加在于仲文身上，于仲文急火攻心，发病身死。
当然，在战场上立功的将领，杨广也分别加以赏赐，人马基本没有损失的卫文升加封金紫光禄大夫，拼死抵抗高句丽军队、确保隋军安全撤退的王仁恭加封左光禄大夫，李景赐绢三千锻，战前曾经劝谏杨广不可征讨高句丽的耿询也重新被任命为太史丞，鞋羁渠帅度地稽因协助隋军出战而获丰厚赏赐。
