东西魏分立之初,东魏的高欢和西魏的宇文泰都有各自的软肋。
对于高欢而言,黄河以南地区原来并非自己的势力范围,需要经过一番争夺,大体上经过天平二年的较量,高欢依靠侯景、高敖曹、窦泰、尧雄等人消灭了樊子鹄,击退了梁军,赶跑了贺拔岳、独孤信,稳定了黄河以南地区。虽然如此,黄河以南各州郡的形势依然不容乐观,天平二年八月,逃往山蛮聚居区内的赵刚劝说东魏东荆州刺史李愍(李元忠同族)投降西魏,李愍遂派赵刚前往晋阳察看形势,赵刚回来后,仍然劝说李愍斩杀了响应侯景的杨祖欢等人,以东荆州投靠了西魏。李愍遂命赵刚回到了长安,但不久,李愍就死了,死因不详,实际上,西魏占领东荆州的企图是落空了。
对于宇文泰而言,同样面临着"敌中有我、我中有敌"的问题,如前所述,灵州刺史曹泥、渭州刺史可朱浑道元都是心向高欢的,甚至干秦州(驻守在覆鞋城,今地不详)刺史万俟普及其儿子万俟受洛干、豳州刺史叱干宝乐等人也都是高欢的好友,态度暧昧。大统元年(东魏天平二年),宇文泰逼降了曹泥、赶跑了可朱浑道元,总算是稍稍松了一口气。
但高欢并没有给宇文泰多少喘息的机会。
东魏天平三年(公元536年)一月二十二日,高欢亲自率领一万骑兵,趁着黄河冬季结冰之时,西渡黄河,长途奔袭西魏的夏州(统万城,治所陕西省横山县)。东魏军昼夜兼行,一路上只吃干粮,四天即来到了统万城下。东魏将士们将长矛捆绑起来,当作云梯,趁夜爬上了城墙,生擒西魏夏州刺史斛拔俄弥突。高欢仍然留任斛拔俄弥突为刺史,并留下都督张琼、许和为慰劳大使,率军驻守,将斛拔俄弥突的部众五千多户全部迁至黄河以东。
宇文泰与西魏群臣商议对策,都督郭贤说∶"高欢兵力虽多,但他智力勇力均已枯竭,揣测他此举,必然不敢深入。过去,贺拔岳大人刚刚去世,关中一片惊恐,那时候,高欢不能趁机夺取雍州,说明了他没有智慧;等到孝武帝西迁时,关中军队力量很弱,毛鸿宾在潼关战败,潼关天险被打破,他又不能趁此良机,寻找我军主力决战,这说明了他没有勇气。如今,我方上下一心,军民团结,高欢土气低落,岂敢前来送死?况且,夏州、豳州之地十分荒凉,千里没有人烟,纵使高欢他意欲南下,粮草却跟不上,由此看来,高欢肯定不会趁机南下的。"
果然,在高欢夺占西魏夏州以后,并没有发兵南下关中,而是以夏州为据点,四处劝诱西魏地方官吏。在他的劝诱下,西魏灵州刺史曹泥及其女婿刘丰再度背叛,投降了东魏。宇文泰派遣行台赵善、万俟受洛干等人率军包围了灵州州城灵武,西魏军引黄河水倒灌城池仅差四尺,河水就将城池淹没。高欢得知后,秘密联络在原州附近的阿至罗部众,命令他们调派三万骑兵绕到西魏军队背后,西魏军担心腹背受敌,遂撤离灵州。西魏军队退去后,高欢亲自率领骑兵从统万城西进,迎接曹泥和刘丰,将所属五千多户残余部众迁回东魏。
永熙二年,在原州游牧并趁北魏末年大乱而叛乱的阿至罗部众受到高欢的招抚,有十万余户归降,高欢对他们赏赐了大量粮食布帛,阿至罗酋长吐陈等人对高欢非常感激,当时,朝廷还有人提出异议,至此、在高欢与宇文泰的较量中,阿至罗人起兵响应,有力地支持了高欢。
紧接着,高欢又命阿至罗部众东下,威逼西魏秦州刺史万俟普,高欢动员军队也遥相呼应。到了这一年的六月(《周书》称五月),西魏秦州刺史万俟普、太宰万俟受洛干、随州刺史叱干宝乐、右卫将军破六韩常以及三百多名督将率领各自的部队叛逃到东魏,西魏丞相宇文泰率领轻装骑兵前去追赶,一直追到榆林河以北一千多里,也没有追上。
西魏大统二年,对于宇文泰而言,可谓是一个多灾多难的年份。这一年,关中地区发生了极为严重的饥荒,人们之间因饥饿而相互残杀、吞食,因饥饿或被杀而死的就高达十之七八。而在这一年的年初,东魏高欢袭破了夏州,紧接着引发了灵州刺史曹泥、秦州刺史万俟普等人一连串大规模的叛逃事件,与此同时,秦陇以西与吐谷浑、宕昌接壤地区也发生了叛乱。
当东魏丞相高欢发兵西进、西魏众多大臣叛逃前后,宕昌的梁企定也再度反叛,阴谋杀死梁览,占领河州。梁览与梁企定多次交战,但一直未能击退他的进攻,宇文泰得知后,立即命令行台赵贵、大都督侯莫陈顺率军西上。梁企定见西魏军队前来,这才害怕,谢罪称臣。宇文泰无暇顾及,遂免除了他的罪过,拜其为抚军将军,并命侯莫陈顺接替梁览驻守在河州。
国内天灾不断,东魏高欢兵锋犀利,西部吐谷浑、宕昌心怀不轨,而北方柔然阿那壤也是虎视眈眈。
《资治通鉴》在南梁大同元年,即东魏天平二年、西魏大统元年这一年称,柔然向东魏求婚,高欢以常山王妹为兰陵公主,嫁给了柔然。此后,柔然多次侵扰西魏,西魏又派遣中书舍人库狄峙与柔然和亲,从此,柔然不再侵扰了。其实,这一记载是错误的,当时的情况并非如此。东西魏分裂后,阿那璎即于东魏天平二年派遣粟特胡人安吐根前去晋阳,打探东魏的虚实,而安吐根则暗中告诫高欢,要防备柔然军队南下。同年,阿那又向西魏求和亲,宇文泰即以孝武帝时的中书舍人元翌(宗室疏属)之女号称化政公主,嫁给了阿那的弟弟塔寒,又命帐内都督杨荐、太子太傅杨宽二人为使者出使柔然国,二人来到柔然国内,均娶妻而还,至此,宇文泰抢先结好了柔然。
西魏与柔然结亲立即引起了东魏高欢的警觉,第二年,他也派遣中书舍人杨畅前往柔然国,此时,柔然与西魏之间的关系尚不牢固,宇文泰担心出现枝节,也赶忙派遣贺若谊前往。贺若谊到柔然国中后,以厚利相引诱,终于说动了阿那。阿那将东魏的使者杨畅交给了贺若谊,并表示与西魏联合————宇文泰承诺给予柔然的厚利。大约正是在这个时候,宇文泰为了进一步巩固两国的关系,又产生了让魏文帝废掉乙弗皇后,另行迎娶阿那长女为皇后的打算。