嘉平三年八月戊寅，司马懿在洛阳因病去世，享年七十三岁。当年九月，司马懿被葬于河阴首阳山，谥文贞，追封相国、郡公，司马孚秉承他的遗愿，辞让郡公和殊礼，遗命简葬，作顾命三篇，敛以时服，不树不坟，不设明器。谥号后改为文宣，但《三国志》和《晋书·文帝纪》均记载谥号为“宣文”，故多以后者为准。同年十一月，有司奏请将各位已故功臣的灵位置于魏太祖庙中，以配享祭祀，排位以生前担任的官职大小为序，太傅司马懿因位高爵显，列为靠前。