公元546年（南梁中大同元年，东魏的武定四年、西魏的大统十二年），在这一年，南方的陈霸先在典澈湖之战中大败李责，西魏的独孤信刚刚平定了宇文仲和，而高欢则在邙山之战三年后再次卷土重来。

八月二十三日，东魏军队在邺城集结后全部开到了晋阳。高欢要想西入关中，就无法绕开玉璧这座堡垒，九月，东魏大军包围了玉璧，高欢此举的目的是一方面拔掉玉璧这颗钉子;另一方面最好能引诱西魏军主力前来，在河东地区进行决战，然而，西魏主力压根就没有出现。

东魏军的军营连绵数十里，一直延伸到玉璧城下。高欢下令东魏军不分昼夜对玉璧城发起猛攻，韦孝宽在城内随机应变进行抵抗。玉璧城内没有水源，城内将士从汾河上取水吃，高欢下令将汾河改道，仅用一个晚上就完工了。高欢命令部队在城南堆砌土山，等到土山堆到比玉璧城墙还高时，居高临下，越过城墙。玉璧城内原有两座城楼，韦孝宽命人在城楼之上再捆绑圆木加高，一直保持比土山高，来抵御来自土山上东魏军的攻击。

高欢派人对韦孝宽说∶"你将城楼建到天上，我就挖地道取你。"遂命令部队在城南开挖了十条地道。又采用术士李业兴的《孤虚法》，在城北又构筑一座土山，集中了大量攻城器械，持续发起进攻。韦孝宽命令部队开挖深沟，切断东魏军挖往城内的地道，选拔军士驻扎在深沟内，一旦城外的地道挖到深沟处，西魏将士即将东魏士兵擒获、斩杀。西魏军还在深沟外面囤积了大量干柴，并准备有火种，发现地道中埋伏有东魏军，就将干柴塞入地道，投下火种，用皮风箱鼓动，霎时间地道内就浓烟滚滚，只扇一次，地道内的东魏士兵全都被烧成焦土了。

从地道进攻无法得手，高欢又命令部队制造冲车撞击城墙，冲车到处，城墙全被摧毁，无法抵挡。韦孝宽命人将布连接起来，制成巨大的帐幔，城上看到冲车即将朝哪里冲来，就将帐幔垂到哪里，帐幔悬挂在空中，冲车无法将其弄坏。东魏军又将松枝捆绑在长杆上，灌上油试图将帐幔烧毁，并想把城楼烧掉。韦孝宽让人制成长钩，等火杆到来时，用长钩将其割断。东魏军又在城的四周挖了二十多条地道，用木柱支撑，然后纵火焚烧木柱，木柱被烧毁后，地道塌陷，上面的城墙也随之倒塌。韦孝宽在城墙崩塌之处竖起木栅栏，堵住缺口，东魏军无法攻入城内。高欢用尽了进攻之策，韦孝宽均一一破解，不仅如此，西魏军还乘虚夺下了东魏军进攻用的土山。

高欢无可奈何，就让仓曹参军祖珽（祖莹之子）前去劝降∶"你一人守在这座孤城之内，西魏未发一兵一卒前来救援，恐怕最后将无法保全，为何不早早投降?"韦孝宽回答∶"我城池固若金汤，军队、粮食都非常充裕，进攻方总是十分疲劳，防守方却非常安逸，哪有十天半月之间就需要援军的?我反而担心你们将面临回不去的危险，我韦孝宽乃关西大丈夫，肯定不会当一名投降将军的!"

祖珽又对城内将士们说∶"韦城主受了人家的俸禄，为人家坚守也可以理解，其余军士们，你们何苦要与他一起进入滚汤、烈火中呢?"于是将悬赏文告射入城中，文告中称∶ "能斩杀城主投降的，拜为太尉，封开国公，食邑一万户，赏一万匹布。"韦孝宽得到文告后，在文告背后亲笔题写"有斩杀高欢的，也按照这一标准封赏"，然后，射到城外。韦孝宽的侄儿韦迁在东魏，被东魏军押送到城下，东魏军威胁韦孝宽，如果不投降，就将韦迁杀害。韦孝宽慷慨陈词，西魏将士无不深受感动，个个决心死战到底。

东魏军连续进攻了整整六十天，将近一半士兵被杀伤，或者生病而死，共计死亡约七万人。高欢无计可施，又急又气，旧病复发，突然一颗流星陨落在高欢的大营之内，东魏将士一片恐慌，十一月一日，高欢遂下令将死难的七万余人埋葬在一座大墓里，而后，撤围而去。十一月十一日，回到晋阳的高欢命令段韶护送时年十八岁的太原公高洋前往邺城，代替高澄镇守邺城;十二日，征召高澄回到晋阳。西魏朝廷令殿中尚书长孙绍远、左丞王悦来到玉壁慰问将土，并晋升韦孝宽为骠骑大将军、开府仪同三司，进爵为建忠郡公。

高欢从玉璧回师后，军中就传言韦孝宽用机械发射的定功弩射杀了自己的丞相，西魏人听说后，就在文告中宣称∶“强弩一射，恶徒就死了。”高欢究竟是生病了，还是被射伤了，已无从考究。不过，为了辟谣，高欢还是强忍病痛，接见了东魏朝廷的重臣们，在席间，他请斛律金唱那首著名的《敕勒歌》，高欢亲自跟着唱“敕勒川，阴山下，天似穹庐，笼盖四野，天苍苍，野茫茫，风吹草低见牛羊……”高欢想起了那熟悉的草原，还有那同样熟悉的歌声，他还想到了自己未竟的事业，外患未除，内忧尚多，一世英雄，转头成空，唱着唱着，他百感交集，不禁泪如雨下。

东魏武定五年（西魏大统十三年，南梁中大同二年，公元547年）一月八日，也就是玉璧之战结束两个月零八天，东魏渤海王高欢去世，终年五十二岁。