司马懿在高平陵之变后虽取得朝中大权,但在地方上仍有反对势力。由于司马懿一直在西线雍凉地区对抗蜀汉,没有在东线淮南地区掌过兵。因而司马氏在淮南地区没什么根基。淮南诸将或出于对曹魏忠心,或不满于司马氏专权。前后三次起兵反抗司马氏,史称“淮南三叛”。最先起兵是征东将军王凌。王凌,字彦云,太原人,司徒王允之侄。当年李傕、郭汜攻陷长安,杀王允满门,只有侄子王晨、王凌翻墙逃得性命。后王凌被曹操辟为丞相掾属。
王凌出身太原王氏,属于并州派士人。汉末并州人才济济,名士有太学生领袖郭泰、司徒王允。武将有九原吕布、太原郭淮。并州刺史丁原率军前往洛阳后,因兵力空虚,匈奴趁虚而入,张燕的黑山军也趁势崛起,与袁绍打的不可开交。为躲战乱,并州派士人从太原南下,到山西南部的河东避难。关东诸侯讨董时,河内郡是两军交锋前线。司马懿的大哥司马朗为避战乱,也带领族人迁到河东,与并州派名士王凌、贾逵相交好。正是靠着这层关系,司马氏在篡权过程中得到了并州派士人的大力支持。司马懿能出任辅政大臣是出自并州派孙资的推荐,遥控雍凉军权则是通过郭淮来实现。司马昭时,贾逵的儿子贾充更是成了司马氏篡位窃国的左膀右臂。司马氏如此倚赖并州士人,但王凌才是根正苗红的并州派士人掌门人。但王凌有一个硬伤,资历不如司马懿。
司马懿老早就傍上了曹丕,而王凌在曹丕即位后就离开中枢,前往地方任职,因而升迁较慢。曹休去世后,满宠接手东线军事大权。王凌与满宠不和,未得以发挥表现。景初二年(238年),满宠调回朝中,升为太尉。次年,王凌才继任为征东将军、假节都督扬州军事,成为东线主帅。而司马懿早在太和五年(231年)就已接替曹真为西线主帅。王凌出任征东将军时,司马懿已官居太尉,盖过了王凌一头。
王凌的太原老乡孙资、郭淮虽为司马懿掌权出了力,但这些人未必能在王凌与司马懿之间坚决的倒向司马懿。郭淮虽受司马懿提携,但他也是王凌的妹夫。镇守荆州的征南大将军王昶虽是司马懿的门生故吏,但他与王凌属于远亲,从小把王凌当哥哥看待。像郭、王这样的例子有很多,司马懿是被并州派士人抬上去的,作为回报就必须给这些人封官许愿,但这些人又跟王凌关系更加亲近。司马懿死后,王凌是继任者的不二之选,司马懿费尽心机得来的权力就不姓司马了。这正是司马懿所担心的。王凌虽比司马懿还大八岁的,但身子骨比司马懿还硬朗,完全有可能耗死司马懿。
高平陵之变后司马懿为拉拢王凌,将其提升为太尉,此举也将其从根据地淮南调到了自己控制下的洛阳。但王凌对司马懿专权十分不满,就与外甥兖州刺史令狐愚暗地里策划。王凌认为曹芳昏庸懦弱,受制于强臣,楚王曹彪有智有勇,想要立他为帝。企图奉迎曹彪到许都,与司马懿分庭抗礼。
嘉平元年(249年)十一月,令狐愚突然病逝,计划被迫拖延。令狐愚的幕僚杨康此时正在洛阳司徒府上报兖州政务,听到令狐愚病死,很是害怕,随即向司马懿告发王凌。司马懿得知以后不敢贸然下手,只派心腹黄华接替令狐愚任兖州刺史,以待其变。而此时的王凌对此还一无所知。
嘉平三年(251年)正月,孙权怕自己死后魏军来攻,封锁涂水。王凌借机请朝廷发下统兵的虎符,企图以教训吴国为名,调动大军发动政变。司马懿不许。王凌无奈,又派心腹杨弘去说服黄华共同举事。这下让司马懿抓到了把柄,司马懿即刻调集数万人马从水路南下,先下达赦令赦免王凌之罪,然后又写信晓谕王凌。王凌迟疑不决,司马懿趁机率军疾进,直逼寿春。王凌这才发现情况不妙,但为时已晚。为避免寿春城遭受战火,王凌自缚投降。
在押解回京的路上,王凌路过贾逵庙前大呼:“贾梁道!只有你才知道王凌是大魏忠臣啊!”当夜把以前的掾属都找来,说道:“行将八十,身名俱裂了啊!”说完饮药自尽。可司马懿还不罢休,丧心病狂的又把王凌、令狐愚尸体挖出暴露示众三日,参与政变者均诛杀三族。为了防止意外,司马懿把曹魏诸侯王全部监禁拘押在邺城,曹彪被逼自尽。同年,司马懿病重,梦见贾逵、王凌为作祟,不久去世。
正元元年(254年),司马师废黜曹芳,改立高贵乡公曹髦为帝。次年,驻守寿春的镇东将军毌丘俭和扬州刺史文钦举兵讨伐司马师,但被司马师镇压。班师途中,司马师因眼睛震出眼眶,痛死于许昌,弟弟司马昭接手掌权。此时的征东大将军为诸葛诞,是诸葛瑾、诸葛亮的族弟。琅琊诸葛氏兄弟三人各在一国,且都身居高位,为三国时代一道特有的奇观。《世说新语》称诸葛兄弟三人是“蜀得其龙,吴得其虎,魏得其狗”狗意指“功狗”,意指有功的战将,乃是褒扬,而非贬抑。
诸葛诞早年与何晏、邓飏、夏侯玄、司马师等人交好,也一同在太和浮华案中遭殃。此案之后,司马师就跟这伙人疏远,到最后反目成仇,杀了大舅哥夏侯玄。诸葛诞见好友夏侯玄、邓飏等人均被诛杀,十分不安。就在淮南笼络人心,蓄养死士,密谋举事。司马昭为防不测,征召诸葛诞入朝为司空,诸葛诞随即起兵。但司马昭早有准备,将诸葛诞围于寿春,最终城破身死。诸葛诞麾下数百人被俘,行刑时排成一列,每斩一人都招降下一人,但都说:“为诸葛公死,不恨!”始终无人投降。从司马懿到司马昭,淮南三叛,司马氏父子三人历时八年才将其平定。