公元422年，北魏皇帝拓跋嗣鉴于刘裕病逝，开始兴兵南伐。在攻克了河南四镇之一的滑台后，拓跋嗣成功将刘宋的河南四镇防线分割成东西两部。
攻克滑台后，当时的北魏将领为了找回在滑台的面子，亲自率军向虎牢关开进。
虎牢关南连嵩岳，北濒黄河，山岭交错，自成天险。自古以来就是一夫当关，万夫莫开的地方，再加上守这儿的毛德祖，早在关中战场之时，就以敢拼命闻名天下。所以，奚斤再一次栽了跟头。
有着丰富战斗经验的毛德祖治下的虎牢绝非书生王景度治下的滑台可比，虎牢城防绝对可以用严密二字来形容，不仅城外有内外两重城墙，而目城墙与城墙之间还筑有不少临时城墙备用，城墙外又有护城河、护城沟。说实话，这种阵势，从城外钻进一只耗子都难。
令北魏兵恼火的还不止这些。虎牢城内更是兵力众多，粮食充足，水源也不成问题，毕竟人家就在黄河边上。因此，如果北魏强攻虎牢不下，想把虎牢围死也不太现实。
但是奚斤不会管这些，求胜心切的他到达虎牢后，竟然一上来就强攻，结果可想而知，毛德祖几次都把奚斤打了个灰头土脸。
拓跋嗣知道虎牢城坚，因此，拓跋嗣决定蚕食虎牢周边的宋军据点以及宋军的援军，孤立虎牢。
在这种战术思想的左右下，拓跋嗣派出了于栗谭，亲率三千骑兵，扑向金墉和洛阳。
于栗碑，北魏黑矛将军。当初刘裕北伐后秦之时，就曾对驻在黄河北岸的于栗碑又敬又怕，为了保证自己的安全，刘裕甚至亲自写了封信向于栗碑示好，信中刘裕将于栗碑呼为"黑矛公摩下"。由此亦可见于栗碑的了得，拓跋嗣知道这个消息后，十分赞许，干脆封了他一个"黑矛将军"。
河南四镇中，光看名字，感觉洛阳是个大都会，但在当时，洛阳实际上已经残破不堪。由于洛阳空虚，刘宋守将王涓之不得不将主力放在了洛阳西北的金墉，以此抵御于栗碑。
此外，知道于栗碑厉害的毛德祖也不敢大意，派出了部将窦晃带着一部分军队向金墉开拔，以图救援。
但在北魏铁骑和于栗碑的发挥下，窦晃根本不是对手，一支部队直接被冲了个七零八落。显然，金墉已然援不上了。
得胜的于栗碑继续向前挺进，听闻黑矛公得胜而来，王涓之怕了。在还没等看到北魏骑兵的影子的时候，王涓之就来了个溜之大吉。金墉就这样被他当做礼物送给了北魏，当然，也包括空城洛阳。
自此。河南四镇已丢了两镇，还剩下虎牢和碻磝。
碻磝，河南四镇最东边的一个，其现在的地理位置在山东境内。得知北魏进攻后，刘宋在山东的官员这时候成了当初后秦大部分官员的翻版。兖州刺史徐琰逃跑，让碻磝也成了北魏的囊中之物。北魏乘胜长驱直入，又下泰山、高平、临淄等地。
河南四镇到这时已丢了三个，独剩虎牢。
在建康的刘义符这时也不得不从后花园钻出来应对危局了。当然，主意他是拿不出的，提建议的是几位辅政大臣。在这种情况下，檀道济临危受命，亲率大军，开向了山东战场。而河南，则由龙骧将军沈叔狸往援。
援军正在开拔，但在虎牢，北魏已经吹响了总攻的号角。
在虎牢城西，奚斤和公孙表开始发力猛攻，另外，拓跋嗣也派出了兵力，在虎牢其余三面攻击。
尽管四面吃紧，但毛德祖还是很快拿出了应对的方法。
城楼上，宋兵还是和往常一样，放擂木，淋火油，尽量阻止敌人攻城；同时，在城楼下，还有一部分宋兵在忙∶挖地道。
几天下来，城外的魏军没有取得丝毫进展，而城下，宋兵却将地道挖好。
当魏军又开始攻城之时，毛德祖在城内挑选了四百人组成敢死队，偷偷从挖好的地道内潜出城外，由参军范道基率领，突袭魏军背后。
魏军哪想得到，四面被围的宋军还敢出城迎敌，尤其还是从地下。猝不及防下，北魏的攻城部队被这支敢死队一冲，阵形大乱。城内的毛德祖见城外突袭成功，没有放过这次机会。他将城门打开，领军再战，不仅如此，毛德祖还顺带着把魏军的攻城器具烧了，魏军不得不暂时向后退却。
稍做整顿之后，魏军又开始围在了虎牢周围。毕竟北魏不在乎时间，也正因为魏军有的是时间，这一次，他们在虎牢守军尚有战斗力的情况下，暂时采取了围而不攻的策略。因为在山东，还有一座城与虎牢一样在坚守，北魏需要一个一个打。
山东的刘宋官员虽然基本上跑了一个干净，但有一个人没跑，那就是青州刺史竺夔。
竺夔治下的青州，听说魏兵来了，军民差不多都集到了东阳城，来不及进城的，也都烧了庄稼，依山而居，坚壁清野。
魏军一路顺风顺水地来到了东阳，到这里他们才发现东阳章然不空。居然还有人守着。有人守，那就只有攻了。三万多魏军骑兵绕城列阵十多里，并且就地大规模地制造杀伤性武器——撞车。
面对北魏骑兵咄咄逼人的气势，竺夔知道自己绝对不能示弱，一示弱就完了。在一个月黑风高的晚上，竺夔命殿中将军竺宗之在杨水口设伏，成功阻截魏将阿伏厅的骑兵，给北魏来了个下马。
受了挫折的北魏众将恼怒异常，开始猛攻东阳城。这一仗打得极其惨烈，竺夔在城外派人挖了四道壕沟，魏军填平了三道，接着魏军拿出了撞车。竺夔又派人从地道潜出城，用粗麻绳将撞车拉翻折断。北魏第一波攻势失败。
不甘心失败的魏军同样没有放弃，紧接着他们又组织起了更大规模的包围，发起了第二波、第三波的进攻，很遗憾，北魏依然没有得手。
东阳的拉锯战可以说从一定程度上减轻了虎牢的压力，但东阳不比虎牢，这儿城防薄弱，粮草又少。就在竺夔快陷入绝望的境地之时，有人给他带来了好消息，援军即将到来。
竺夔很兴奋，拓跋嗣却开始沮丧。
但沮丧归沮丧，拓跋嗣是不会放弃的.他不想在刘裕死了之后，落得个他仍然拿刘宋没办法的说法，不管怎样，他都必须要拿下虎牢和东阳，以此向世人昭告他拓跋嗣不是一只病猫。
在这种情况下，魏军开始加快进度。
山东这边还在鏖战，虎牢那边，毛德祖同样也已经坚守了两百多天。在意识到了虎牢的坚韧之后，拓跋嗣让奚斤去虎牢南边拿下了许昌。许昌。虎牢南边的咽喉所在。此城一失，不止刘宋援军进军路线受阻。更严重的是虎牢与洛阳乃至后方的所有通讯都全握在了拓跋嗣手中，虎牢，将完完全全成为一座孤城。
意识到问题严重性的毛德祖坐不住了，将城门打开，领军出击公孙表。毛德祖正好落入北魏设好的圈套之中。
北魏骑兵虽然攻城不太在行，但要是打野战，这些游牧骑兵的战斗力是惊人的。拓跋嗣拔掉许昌，目的就是想诱引毛德祖出城野战。
果然，毛德祖很快就尝到了苦头。
本来，单挑公孙表，毛德祖还并未落到下风。可惜，奚斤的速度也不慢。拿下许昌之后，奚斤留庾龙坐镇许昌驻守，自已则急速班师会合己方的围城部队。奚斤回来时，正好赶上毛德祖和公孙表酣战。首尾都在挨打的毛德祖很快就撑不住了，被迫退回虎牢城内。
此战打了整整一天，毛德祖的宋军损失严重，伤亡数千人，不得不断了主动出击的念头，另作他图。
几番思量后，毛德祖想到了离间，对象是公孙表。
之所以选公孙表，是因为毛德祖和公孙表相熟，小的时候还做过一段时间的哥们儿。
于是，毛德祖给公孙表送去了一封信.信上故意涂改多处。内容无非就是说咱小时候一起打过架，一起偷过鸡摸过狗等内容。既然是离间，毛德祖不会只给公孙表一人寄信，他还悄悄派人送了一封信给奚斤，揭发公孙表和宋军有密谋。
公孙表很实诚，将信原原本本拿给了奚斤看。谁知，公孙表这一举动却将自己越抹越黑。
看到那些涂改再三的信件。再加上自己曾收到的秘密信件，奚斤起了疑心。他告到了拓跋嗣那儿。
拓跋嗣听说后，本来还不以为然。哪料想，与公孙表有怨的太史令王亮蹦了出来，从风水学的角度证明了公孙表的确有通敌的嫌疑。他的理由是。"公孙表故意把军队驻扎在虎牢城东，那儿是个风水很差的地方，虎牢一直不下，原因就在这里。"
拓跋嗣很迷信。因此，王亮的这套说辞很好地打动了拓跋嗣。在这种情况下，拓跋嗣派人潜入公孙表帐中，勒死了公孙表。
公孙表死了，满以为北魏内部会出现裂痕的毛德祖，等来的却是亲自上阵的拓跋嗣。
同时，由于檀道济的援兵来得及时，东阳之围终于缓解，眼见一时半会儿奈何不了东阳的拓跋嗣索性将所有兵力集中到了虎牢。因此，虎牢城下的魏军开始越来越多，孤城中的毛德祖头大如斗，不仅每天要遭受魏军的强攻，而且城内的物资也开始匮乏，甚至，拓跋嗣还把自己的船舰在黄河边上排成一排，加派人手在那守着，只要遇到宋军下来取水，就是一通点杀。这样一来，宋军这边，黄河水是不能取了，那就取地下水吧。
地下水也没取到。
宋军在城内挖井，魏军也在外边挖，他们人多，挖得又多又快，不多时，竟将地下水给泄放了个干净。
种种因素交织下，宋兵已到了油尽灯枯的地步。
可以说，两百多天打下来，毛德祖损兵折将不说，坚城也被打成了危城，形势，正在朝越来越不利于宋军的方向发展。
事实也的确如此。
在奚斤和叔孙建人海战术的包夹下，虎牢外城被毁。毛德祖再筑三道城墙，又被魏军摧毁两道。
毛德祖不得已退回内城。就是在这种情况下，毛德祖仍没放弃，对外昼夜抵抗，对内抚恤士卒，在他的鼓舞下，宋军没有一个人逃跑或投降的。
但虎牢此时已经弹尽粮绝了，三天后，在魏军的猛烈进攻下，内城也没有守住，宋军仅有两百多人突围，其余全部战死，毛德祖被俘后誓死不降，最终客死他乡。可惜的是，在史书中，仅仅只有《宋史》的一个小角落简单地记录了他的忠烈。
旷日持久的虎牢之战终于结束，北魏总算拔掉了最后一颗钉子，对拓跋嗣来说，目的已经达到，现在，则是到了享受成果的时候了。在留下一部分兵力驻守虎牢后，拓跋嗣返回邺城，继续经营漠北。
