司馬炎如願以償，於咸熙二年（266）十二月，繼帝位，建晉朝。魏帝曹奐跪於壇下，接受了司馬炎的封號陳留王，於司馬炎稱帝的當日便起程離開洛陽，以後非宣詔不許入京。這一天，北風呼嘯，大雪紛飛，天地肅殺一片。曹奐走出洛陽的城門之後，回首凝望，淚眼蒙蒙。
晉武帝司馬炎即位後心情很好，和所有的開國皇帝一樣，他開始考慮如何才能讓晉朝儘可能長久地存在下去。我們在電視劇中經常可以看到有白髮蒼蒼的老臣情緒激動地對皇帝大喊：「祖制不可違。」皇帝聽到後便深深感到改革的壓力，總是要使出千般計謀方能施行改革。可見開國皇帝制定的「祖制」對這個朝代的發展影響極其深遠，的確對國家的興衰有著重要的作用。
司馬炎在定「祖制」的時候認為曹魏之所以國強民富卻被自己輕而易舉地奪得政權，原因就是當年曹丕建國時立下的「刻薄宗親」的規矩。曹丕為了確保嫡脈子孫皇權的穩固，對所有皇室宗親都進行了打壓。皇室宗親雖封王卻無統兵權，只帶有一百多個老兵，而且活動區域不得超出三十里，無詔不得進京，宗王之間不得互相往來。又害怕宗王久居一地，勾結地方，對抗中央，便頻頻改換宗王的封地。宗王徒有王侯之號，卻沒有任何力量抵擋權臣司馬氏在京都的篡位步伐，眼睜睜看著大好的江山被司馬氏奪去。
有鑒於此，司馬炎便效仿當年的劉邦，大封宗王。他一口氣封了二十七個司馬氏宗王。此後的幾年中他仍不斷封王，到他死時一共封了57個同姓王，此數字後來一直保持著中國歷史封王的最高紀錄，包括他的叔祖、叔父、兄弟、堂兄弟、子侄等都被封王，每個宗王少則有數千兵馬，多則上萬，並且在自己的封郡里有極大的權力，以郡為國，自成一個組織嚴密的小國家。司馬炎沒有料到的是，他的大封諸王，竟使得晉國的強盛僅維持到自己這一代。司馬炎死後，便禍起蕭牆，骨肉相殘，諸王爭位，群雄紛起，五胡亂華，晉朝在亂鬨哄的廝殺、仇恨和分裂中度過了兩百年的歷史。
司馬炎封完了諸王，第二件事就是統一全國，結束全國的分裂局面。
早在三國鼎立之時，魏國的實力已經在各方面超過了蜀、吳的總和。以人口計，魏國人口約佔全國人口4/7，蜀、吳合佔3/7。公元263年，滅蜀之後，魏國的力量更加強大。
為了發展經濟，司馬炎想了很多辦法，並有力地實施了下去。當時土地兼并很嚴重，所有的農民都沒有土地，甚至小一點的地主也失掉了土地。有土地的都是豪門世族，這些人中最少的也擁有上萬畝良田。有些大地主擁有的土地多到可怕的程度，就是騎上快馬，跑一天一夜也未必能跑出他們的土地範圍。土地過於集中嚴重影響了經濟的發展，司馬炎制定了「戶調式」的經濟制度：規定必須按年齡按人口占田。比如，十六到六十歲的男子必須要繳給國家五十畝的稅，當然，他也有權利擁有五十畝的田地。如果沒有呢，可以去墾荒，也可以從國家那裡領取土地，任何豪強都不得以任何理由去奪取這些田地，即使土地擁有者欠著這些豪強的錢，或曾經是這些豪強的家奴。任何農民也都有權利取得田地來種。
同時司馬炎規定按官階的大小來占田。第一品佔五十頃，第二品四十五頃，第三品四十頃，每低一品，地少五頃。豪強擁有的家奴和佃戶也按品級來限制，六品以上可以擁有三名家奴，第七和第八品二名，第九品一名。第一品第二品最多只能擁有十五戶佃戶，第三品為十戶，第四品為七戶，第五品為五戶，第六品三戶，第七品二戶，第八品第九品一戶。
這樣大量土地就被國家徵用，然後發給沒有土地的農民，大量的佃戶和家奴被解放，參與到生產建設中來。晉國的經濟很快發展起來，遠遠超過了吳國。
晉武帝司馬炎還在全國的官吏隊伍中推廣勤儉節約的作風。有一次，太醫院的醫官程據獻給司馬炎一件色彩奪目、滿飾野雉頭毛的「雉頭裘」，這是一件極為罕見的華貴服飾，價值連城。晉武帝得到這件禮物後立刻把它帶到朝堂，請滿朝文武官員欣賞。
朝臣見了這件稀世珍寶，個個驚嘆不已，連聲叫絕。程據自然是得意揚揚，認為自己很有面子。等群臣欣賞完之後，司馬炎卻表演了一個讓他們大吃一驚的行為藝術，他點了一個火把這件可值千金的「雉頭裘」燒成了灰燼。在群臣驚訝的目光中，司馬炎嚴肅地告訴大家：程據獻上來的這個東西叫做「奇裝異服」，而他早就下過禁令，要求所有的政府公務員都不準奢侈浪費，要以勤儉節約為美德。今天只是當眾焚毀了這件「奇裝異服」，以後誰如敢再違犯這個規定，那就要承擔刑事責任。
司馬炎帶領著西晉全國欣欣向榮地蓬勃發展，吳國卻是在走下坡路。吳國的皇帝孫皓命令所有大臣的女兒在出嫁前要先經過他的挑選，漂亮的入後宮供他一人享受，剩下的才能談婚論嫁。結果是孫皓後宮的宮女迅速增加到數萬名，另一個結果是大多數大臣幾乎都有女兒被孫皓糟蹋，想不恨孫皓都難。
孫皓還很喜歡一種殘忍的娛樂方式，那就是殺人。他殺人的方式已經上升到了行為藝術的高度，使用挖眼、剝臉皮、砍掉雙腳等方式來慢慢地置人於死地。中書令賀邵說現在咱們的國家很窮，和皇上有關。孫皓便懷恨在心，派人暗中調查他，想要誣陷他謀反。巧的是賀邵正好得了中風，口不能言。孫皓說賀邵一定是裝的，於是親自用大鋸在賀邵的頭上鋸，看他喊不喊疼。中了風的賀邵至死也沒能說一個字。這個賢臣死得比當年商紂王手下的比干還要慘。
孫皓的殘暴和荒淫使他的國家如同朽木支撐的大廈，稍稍推一把就會垮塌。晉國鎮守南疆的大將羊怙看到了這個情況，便請求司馬炎伸出手來去推一把。
但這時有三個人站出來強烈地反對，暫時挽救了孫皓，推遲了東吳的滅亡。
這三個分別是賈充、荀勖和馮。他們說：吳國有長江天險，而且善水戰，一時難以取勝，而北邊的禿髮鮮卑正在作亂，一直難以平滅，此時若兩線作戰，將給晉國帶來巨大的負擔，取勝的可能性很小。
常年駐守南部邊境，與吳國打過多年交道的大將羊怙則認為此時取東吳是「上天與之」，發兵南下，可「不戰而克」。如果等孫皓死了，換一個明君上來，吳國上下一心，那時再取東吳就難了。
司馬炎想了很久，還是決定先平禿髮鮮卑再伐東吳。東吳的滅亡因此被推後了四年。羊怙嘆著氣回到了荊州防地，這位本可再建功業的一代名將，終其一生也沒能夠看到國家統一的那一天。