司马炎为曹魏权臣司马昭的长子，曾出任中抚军，但是司马昭却有意让幼子司马攸继承王位，但在众臣的反对之下，司马炎于265年被封为晋王太子，同年八月，司马昭因中风猝死，享年55岁。

司马炎继承父亲的相国职位和晋王爵位，司马炎继承相国、晋王位，掌握全国军政大权，经过精心准备，同年12月，仿效曹丕代汉的故事，为自己登基做准备。

在司马炎接任相国后，就有一些人受司马炎指使劝说魏帝曹奂早点让位，不久，曹奂下诏书说：“晋王，你家世代辅佐皇帝，功勋高过上天，四海蒙受司马家族的恩泽，上天要我把皇帝之位让给你，请顺应天命，不要推辞!”

司马炎却假意多次推让，司马炎的心腹太尉何曾、卫将军贾充等人，带领满朝文武官员再三劝谏，司马炎多次推让后，才接受魏帝曹奂禅让，封曹奂为陈留王。

司马炎于公元265年，登上帝位，国号大晋，史称为西晋，改元为泰始，晋王司马炎成了晋武帝，历史有惊人的相似之处，大魏王朝从曹丕让汉帝禅位称帝，传了45年，到此结束。

司马炎也同样让魏帝以禅让的手段获取了帝位，曹魏遂亡，但这时的司马炎心里并不轻松，他很清楚，虽然他登上王位宝座，但危机仍然存在。

公元266年(泰始二年)，立妃杨艳为皇后;公元267年(泰始三年)，立次子司马衷为皇太子;公元268年(泰始四年)，司马炎的母亲皇太后王元姬去世，葬于崇阳陵。

公元275年(咸宁元年)，追尊宣帝司马懿，庙号为高祖，景帝司马师为世宗，文帝司马昭为太祖。