公元439年，在北魏统一了北方后，打了胜仗的北魏军事机器根本无法紧急刹车。班赐制的性质决定了掠夺与战功是鲜卑武士的利益与光荣的来源，甚至内、外朝臣都能从中得到好处，因此拓跋铁骑的主要矛头必然会指向南朝的刘宋政权。当然一块接着一块新占领的土地需要整合，各种反抗需要平息，更北边的柔然也要给予进一步的打击。

在宋元嘉七年（430年）南方出兵不利后，曾有一段平静的岁月。但大规模南北战事在公元450年又开始了。此前双方还有着遣使往来，也时有冲突，但一边是无暇南顾，另一边是因为"马步不敌，为日已久"，所以双方维持着一种非正式的和平。如此局面的打破则先是刘宋一方。当时宋文帝经过二十几年的文治，积蓄起一定的实力，想要建立一些武功也是很自然的事。他提出北伐有两条主要理由∶一是"北方苦虏虐政，义徒并起"；二是"今夏水浩汗，河道流通，沉舟北下，碱磁必走，滑台小戍，易可覆拔"，意思是水大有利于南方的水军水运。当时沈庆之、刘康祖等武将反对，一些被称为"白面书生"的文臣赞同，出兵北伐就这样决定了。此前，当年三月，魏军攻悬瓠40余日不下，而城内宋军不满千人，这也助长了南方的士气。

于是该年七月，宋文帝以宁朔将军王玄谟率军北伐，太尉江夏王刘义恭出彭城，总统诸军。碱磁魏军弃城走，但随着王玄谟久攻滑台不克后，魏军就开始反攻。当年九月，北魏太武帝兴师南伐，十月至枋头，另遣五千骑截断王玄谟后路。王玄谟大惧，弃军而走，宋军随即溃散。魏军斩首万余级，淮南皆降。至十二月，魏太武帝率大众至瓜步，声称要渡江统一中国，南朝震惧，宋文帝只得求和。当时，拓跋军队中的大多数是第一次见到如此浩荡辽阔的江水，一时之间难作渡江之计，而北魏军队在作战过程中也损失颇大，且后勤供应也使魏军难以为继，无法久驻，只能回撤。

这次大战是进入南北朝时期后双方的第一次大战，甚至可以说是南北朝最大一次的南北大战。这是因为双方在当时都处于南北朝时段内最强盛的时候。这次战役证明双方暂时都没有能力吃掉对方，统一中国，哪怕是以前一直所向披靡的鲜卑铁骑，在河道纵横的江淮之间也难以舒展，因此也造就了以后大部分时间里的南北和平。由于该战基本上是在南朝的国土上进行，两淮诸州所受破坏尤其严重，决定了以后南北对峙中南方稍弱的局面。

到了献文帝拓跋弘时，刘宋的一次变故使南北之间力量对抗的天平向大大有利于北魏方面倾斜。公元465 年，宋的湘东王刘彧通过一场宫廷政变废除了小皇帝刘子业而登基，嗣后又平息了带兵在江州的晋安王刘子勋反抗，并把宋孝武帝之子几乎杀尽。由于当时有相当一批文武官员是站在刘子勋一边的，刘子勋失败后，有的官员，如徐州刺史薛安都、兖州刺史毕敬众、司州刺史常珍奇等举地投魏。刘彧遣张永、沈攸之带兵讨伐薛安都等，北魏则以镇南大将军尉元引兵救援。尉元绝南军粮运，获其辎重。张永等弃城夜遁。魏军则南北奋击，大破于吕梁之东。斩首数万级，追北六十余里，死者相枕，手足冻断者十八九。在随后的一系列战斗中，北魏大获全胜，南朝元气大伤，失淮北四州及豫州淮西之地。南北的分界线大体上南移至淮河一线，南朝显得更加窘迫了。

这次青、徐诸州的易手，事起突然。由于宋明帝刘彧皇位得手后，处置不当，不能敞怀抚降，致使边将屡叛。而薛安都、崔道固等人之降魏事出无奈，当地的士民更不能接受易朝的事实，如汝南、新蔡等淮西七郡多不愿属魏，连营南奔。因此对北魏来说，在趁机吞并了一大块土地后，如何牢固地长期占有是一个大问题。于是北魏从两方面着手，一是采取安抚政策，二是将当地的士望豪强以及降官迁至平城的京畿地区，设"平齐郡"以置之。

平齐郡的设立是魏初将被征服土地上一部分民众迁至京畿为新民政策之延续，但它和先前所设的平凉郡一样，有了新的变化。平齐郡情况是由青、齐人士为主体，立平齐郡与平城西北北新城，以崔道固为太守。因此平齐民是来自同一地方，有着同一渊源的人们。他们迁徙至京畿后，被挪来挪去，实际上是把他们当作一个部落来安置，这也是和新民属于分部制的归属相符。然而平齐郡立于皇兴三年（469年），其时已在"太安三年（457年）五月，以诸部护军各为太守"之后，也就是说当时分部制下已按州郡编制，所以才有平齐郡这样的形式。太和改革时，随着分部制的取消，平齐郡也就消失了。

还要指出的是，平齐民虽然也是属于所谓"新民"一类，但平齐郡之设则主要不是为了让这些新徙民到京畿来计口受田，供养京师的。魏得青、齐诸州的过程中，一些刘宋的降官，如崔道固、沈文秀等都有悔心和反复，地方的士族当然也不愿意接受被视为胡虏者所统治。为了免除这些地方势力以后有可能乘机兴风作浪，北魏早有效仿秦始皇迁六国豪杰于关内之举，因此将这些降官土望及其家族徙至京师平城附近，就近控制，而免除青、徐诸州之隐患，在政治上是很高明的。