司马师废立君王引起了很多朝廷大臣的不满，驻守淮南的丘俭、文钦等人因此决定起义出兵讨伐司马师，这也就是淮南三叛中继王凌之乱后的第二叛。
【叛乱前夕】
东兴之战后毋丘俭和诸葛诞对换了防区，毋丘俭担任镇东将军，都督扬州诸军事。扬州刺史前将军文钦，是曹爽同邑之人，勇敢果断，多次立下战功，喜欢虚报俘虏人数，企图获得宠赏，但朝廷往往不给。因为文钦怨恨一天比一天重。毋丘俭出于计谋，对文钦很好，两人关系融洽。文钦也感恩戴德，对其忠心不二。
嘉平六年（54），李丰、张辑等人企图以夏侯玄取代司马师，被司马师察觉除去，同年司马师废掉了少帝曹芳。丘俭与夏侯玄、李丰平素友好，二人被害令丘俭不安，同时亦感昔日魏明帝之恩，想为曹魏政权做拼死一搏。丘俭之子丘甸亦鼓励父亲反抗司马师。
正元二年（55）天上出现几十丈长的彗星，跨过西北天空，从吴、楚分界处开始。毋丘俭、文钦十分高兴，认为这是吉祥的征候，于是借皇太后的口吻，下诏历数大将军司马师的罪，发布天下，举兵反叛，胁迫淮南将守诸别屯者及百姓都进入寿春城，在城西设坛，对天发誓，滴血为盟，把老弱者留下来守城。
丘甸时任治书侍御史，丘甸在起兵前私自出走，带家属逃亡到新安的灵山上，但灵山被攻下后被捕杀死。丘俭在发动叛乱之前还派人找镇南将军诸葛诞，让他召收豫州士民参与反叛。结果诸葛诞将丘俭、文钦派来的人杀死，并将丘俭和文钦的阴谋公布于天下，让人们知道他们的叛逆行为。
【丘俭之乱】
这年春季，毋丘俭、文钦统率五六万大军渡过淮河，向西到达项地。毋丘俭守城，文钦在城外保护。司马师聚集公卿商讨计策，朝廷的议论多数认为可以派遣战将出兵，王甫及尚书傅瑕、中书侍郎钟会劝司马师亲自出兵。于是司马师统率中军步兵骑兵十余万人去征讨。日夜兼程，召集三方的军队，大规模会聚在陈、许的郊野。很快驻在隐桥，丘俭手下将领史招、李绩先后来投降。
丘俭、文钦移兵到项城，荆州刺史王基反复请战，要求进兵征占据南顿来逼迫丘俭，然而司马师想等待大军集合，于是不许，后来王基认为南顿有大粮仓，以将在军，君令有所不受，自作主张出兵夺下了南顿，丘俭等从项地发兵也想争夺南顿，走了十来里，听王基已捷足先登，只好退回项地。在《晋书》中则记载为司马师派遣王基攻取南顿，这里应该以《三国志》为主。
司马师高筑壁垒，等待东面军队的集结。众将请求进军攻打项城，司马师：“诸位只知其一，不知其二。淮河以南的将士本来没有反叛的意思。况且丘俭、文钦想走纵横家的路，学习张仪、苏秦的学，认为远近必定会应。然而发动叛乱的时候，淮北以北不顺从，史招、李绩先后瓦解。内部不顺从，外部背叛，自知必定失败，被困的野兽想要决想斗，迅速交战更合他们心意。虽必定克敌，但死人也多。再丘俭等人欺骗将士，十分狡诈善变，稍稍与他们相持一段时间，骗局自然会败露，这样就能不战而胜。”于是司马师派遣诸葛诞督率诸军从安风向寿春之间出兵，征东将军胡遵督率青、徐诸军向谯、宋之间出兵，切断叛逆退路。
司马师下令各路军队都坚守阵地，不要正面交战。丘俭、文钦等向前不能战斗，退后到寿春又怕遭到袭击，前后无路，无计可施。淮南将士，家乡都在北边，军心涣散，相继投降。只有淮南新近归属的当地农民愿意为他们打仗。司马师屯兵于汝阳，派遣兖州刺史邓艾督率泰山诸军进驻乐嘉，示弱诱敌。
当时邓艾装出不堪一击，用以诱使丘俭、文钦出击。司马师很快率军从洙地来到。文钦不知是计，果然在夜里想要袭击邓艾。等到天亮，见兵马强盛，才撤回军队。文钦进军将攻打邓艾后，司马师秘密派兵，径直奔赴乐嘉，与文钦相遇。文钦的儿子文鸯，十八岁，在三军中最为勇猛，对文钦：“趁封方立足未稳，请登上城墙擂鼓呐喊，可以打败对手。”然后按计谋行事，三次呐喊而文钦不能应战，文鸯退兵，一起引兵向东。魏臣尹大目追出试图劝降文钦，但遭文钦拒绝。
司马师就对众将：“文钦逃跑了。”命令派精锐部除追击文钦。众将都：“文钦久经沙场，文鸯年轻有锐气，引军入项城，并没有失利，必不会逃走。”司马师：“一鼓作气，再而衰，三而竭。文鸯三次擎鼓，文钦不回应，他们的气势已经衰竭，不逃走还等什么？”
文钦将要逃走，文鸯：“不先打掉敌人的锐气，是不能走的。”于是与十除名骁勇的骑兵攻入景帝军队的阵地，所向披靡，然后引兵撤离。司马师派左长史司马琏督率八千精壮骑兵徒侧翼追敌，派将军乐林等督率步兵为后继。等到了沙阳，多次攻破文钦的军阵，射出的箭密集如下雨，文钦着盾牌逃奔。大破敌军，众人都扔下兵器投降，文钦父子与部下逃跑去保项城。丘俭听文钦战败，抛弃众人连夜逃往淮河以南。安风津都尉追上丘俭，杀了他，把丘俭的首极傅到京都。淮南平定后丘氏与文氏两家的人，凡是留在魏国的，都一齐被斩杀。文钦、丘秀和丘重等人投奔吴国，吴任命文钦为都护、假节镇北大将军、幽州牧、谯侯。
因为诸葛诞率先率兵进占叛军的据寿春，稳定战局。再加上他长期在淮南驻守，于是被任命为镇东大将军、仪同三司、都督扬州诸军事。