司马懿在历史上先后辅佐曹操、曹丕、曹睿以及曹芳四代君王，曹操时期作为谋臣，帮助曹丕夺嫡；曹丕时期他已经是曹魏核心重臣了，曹丕死前成为了四位辅政大臣之一；曹睿时期，司马懿开始正式领兵作战，伐孟达、御诸葛、灭辽东，威震天下，是曹睿留下的两位辅政大臣之一；曹芳时代，司马懿打倒曹爽，后期已经成为了曹魏的主宰。
【曹操谋臣】
司马懿年少有为，出身于世家大族，不过因为当时汉室已经衰落，所以司马懿不愿意出仕做曹操的部下，曹操几度征召均不止，最后被曹**迫才出仕的。
建安十三年（08），曹操为丞相以后，使用强制手段辟司马懿为文学掾。之后司马懿和曹操之子曹丕往来很多，是曹丕四友之一，他历任黄门侍郎、议郎、丞相东曹属、丞相主簿等职。
在曹操平定汉中张鲁之后，司马懿劝曹操曾经出兵讨伐益州，被曹操拒绝。关羽讨伐曹仁之前，司马懿还曾经指出荆州刺史胡修粗暴，南乡太守傅方骄奢，不应该驻守边防，曹操未予重视。后来二人都背叛投降了关羽。关羽水淹七军后，司马懿和蒋济一起劝阻曹操迁都，认为可以拉拢孙权对付关羽，后来孙权果然发兵袭取江陵。
曹操认为荆州遗民及在颍川屯田的军民逼近南方寇贼，想把他们迁走。司马懿认为：“荆楚轻脱，易动难安。关羽新破，诸为恶者藏窜观望。今徙其善者，既伤其意，将令去者不敢复还。”曹操听了他的建议，没有移民。之前藏窜逃亡者果然都复出归化。
在夺嫡之时，司马懿是曹丕的主要支持者之一，可惜的是并没有关于他帮助曹丕夺嫡具体事例的记载。
【曹丕重臣】
曹**后，曹丕上位，司马懿成为了曹丕麾下的红人，官职升迁很快，历任尚书、督军、御史中丞、侍中、尚书右仆射，后假节、担任抚军大将军。
曹丕因为襄樊残破，害怕孙权来袭一度将此地抛弃，司马懿则认为孙权必然不会得罪曹魏夺取此地，曹丕不听，后来追悔不及。曹丕掌权时多次南下讨伐孙权，以司马懿镇守许昌，曾经下诏书给司马懿：“吾深以后事为念，故以委卿。曹参虽有战功，而萧何为重。使吾无西顾之忧，不亦可乎！”曹丕最后一次南伐后由广陵回师洛阳，又下诏对司马懿：“吾东，抚军当总西事；吾西，抚军当总东事。”
曹丕临终时，令司马懿与中军大将军曹真、镇军大将军陈群、征东大将军曹休为辅政大臣。还对太子曹：“有间此三公者，慎勿疑之。”
【曹睿统帅】
在曹操以及曹丕时期，司马懿都未能有过统兵作战的经历，一直到了曹睿掌权时，司马懿才真正开始了自己的军事生涯，当时司马懿历任大将军、太尉。
相对其他人来，司马懿因为已经位居高位，所以领兵的起是很高的，一开始就是作为统帅领兵作战，司马懿的首战就是抵御江东的入侵。在曹睿上台之后，孙权立刻就给了他一个下马威，亲自率兵攻打江夏，还派诸葛瑾和张霸攻襄阳，司马懿领兵抵御，击退孙权，击败诸葛瑾，斩杀张霸。
太和元年（7），孟达联合诸葛亮，密谋作乱，被司马懿以闪电般的速度平定，此地专权的申仪也被司马懿所调走，此战是日后司马懿三大战功之一。这一年，明帝曹睿询问司马懿讨伐吴蜀之策，司马懿认为应该先讨伐吴国的荆州江夏一带。次年，曹休出兵接应诈降的吴将周鲂，司马懿也配合出兵，很快就被召回。
太和四年（0），曹真大举伐蜀，司马懿和张等人配合曹真出兵，司马懿从西城开拓道路，水陆并进，沿着沔水逆流而上，直达朐忍，攻克新丰县，驻军丹口，后遇雨班师。
太和五年（1），因为曹真病重还朝，明帝曹睿以司马懿为西线主帅对抗包围祁山的诸葛亮，派他西驻长安，都督左将军张、雍州刺史郭淮等防御汉军。
司马懿先是保证了上一带的大部分粮草，后诸葛亮退兵，与其在祁山的卤城一带开展了一次正面对决，司马懿兵败，略有亏损，诸葛亮因为补给不足而退兵回汉中，他派出张追击，结果张中伏战死。
青龙元年（），安定保塞匈奴大人胡薄居姿职等叛，司马懿派遣胡遵等追讨并破降。
青龙二年（4），诸葛亮亲自领兵第五次率领大军讨伐曹魏，双方在五丈原一带开展对峙，诸葛亮先期强攻不克，于是邀请司马懿正面对决，司马懿避战，后期诸葛亮在半兵半农，甚至送花衣服的情况下司马懿仍然拒绝出战，最终诸葛亮病逝五丈原。
熬死诸葛亮后，司马懿一度出兵追击，蜀将杨仪返旗鸣鼓，做出回击的样子，司马懿以‘穷寇莫追’收军退回。后蜀汉内斗，杨仪杀死魏延，司马懿想趁机伐蜀，被曹睿拒绝。次年，司马懿升任太尉，累增封邑。蜀将马岱入境侵扰，司马懿派牛金迎击，斩蜀军千余人。武都氐王苻双和强端率领其属下六千余人来降。
景初二年（8），曹睿派司马懿第三次讨伐辽东公孙渊，他联合幽州刺史丘俭等人一举将辽东平定。次年，曹睿去世，以太尉司马懿和大将军曹爽辅政幼帝曹芳。
【曹芳权臣】
在曹芳时期，先是曹爽夺权，以司马懿为太傅，明升暗降，将曹魏的政治和军事大权逐渐控制在自己手中，因为曹爽是曹魏亲族，司马懿无法阻止，只能看着曹爽专权。正始二年（41年），孙权发兵数路大举北伐，司马懿亲自出兵击退吴将朱然，后来还从诸葛恪手中夺回皖城。
在曹爽出兵伐蜀以及幽禁郭太后的事情上司马懿都反对过，可惜都无果而终，无可奈何的情况下司马懿只能称病回家，密谋打倒曹爽。
曹爽在后期已经准备谋逆，于是派李胜试探司马懿，司马懿轻易的将其忽悠，使得曹爽等人不再重视。正始十年（49）司马懿最终在曹爽三兄弟和曹芳一起祭扫魏明帝的坟墓高平陵时，在洛阳发动政变，一举将曹爽赶下台。
政变之后，司马懿成为了曹魏的实质主宰，他打压曹氏亲族，提拔自己的亲信，为日后司马家上台奠定了基础。
嘉平三年（51），淮南军事统帅王凌准备作乱，司马懿亲自南下一举平定叛乱，王凌自杀，事后司马懿不久就去世了。