公元265年，在洛陽的一處宮殿里，新皇帝正以當年魏王曹丕接受漢獻帝禪位幾乎一樣的口吻，語言接受著魏帝曹奐的禪讓，這個新皇帝就是司馬炎。至此，司馬氏家族經過司馬懿、司馬昭和司馬炎三代人的苦心經營，終於如願以償，成了中原大地名符其實的統治者。司馬炎，這位晉王朝的開創者，也開始了他25年的皇帝生涯，死後被謚為武帝。
司馬炎，字安世，是晉王司馬昭的長子。按照封建時代立嫡以長的成規，他本該是當然的王位繼承人，但司馬昭似乎忽略了這位長子，而對另一個兒子司馬攸更感興趣。司馬昭把司馬攸過繼給自己的哥哥司馬師為子，並打算立之為世子，他每次見到司馬攸，便拍著晉王的寶座對他說：「這是桃符（司馬攸的小名）的座位。」寵愛之情溢於言表。正是在這種複雜的政治背景下，不甘寂寞的司馬炎開始了他爭奪王位的活動。
據史書記載，齊王司馬攸為人清和平允、親賢好施，喜愛古代典籍，並且雅好文章，是一位有著濃厚的藝術氣質的儒雅之士，與司馬攸相比，司馬炎卻似乎是一個天生的政治家，他在氣質上幾乎完全秉承了父祖的天性，既有足以左右形勢的謀略，同時也有著一付寬厚仁慈的外表，更何況還有著立嫡以長這一堂皇的箭牌，總之，政治家的天性加上客觀上的優勢，使得他在複雜的宮廷鬥爭中遊刃有餘，許多重臣也以歷史上廢嫡長引起禍亂的事例與司馬昭抗爭。在殘酷的事實面前，到晚年，司馬昭不得不以強大的政治理智克服個人情感上的好惡，接受了大臣們的建議，立司馬炎為世子，這樣，司馬炎才得以成為父業的繼承人，並最終登上皇位。
司馬炎接受禪位後心裡並不輕鬆。他很清楚，雖然他登上皇帝的寶座，但危機仍然存在。從內部看，他的父祖為了給司馬氏家族奪取皇位鋪平道路，曾經對曹氏家族以及附屬勢力進行了殘酷的屠殺，這件事所造成的陰影至今仍然橫亘在人們的心中；從外部看，蜀漢雖平，孫吳仍在，雖說此時的東吳已不足以與西晉抗衡，但畢竟也是一個不小的威脅。內憂外患告訴司馬炎，要想鞏固獲得的政權，進而完成吞併東吳，統一中國的大業，就首先要強固統治集團本身的凝聚力，而要達到這個目的，就必須採取懷柔政策。為此司馬炎在即位的第一年，即下詔使已成為陳留王的魏帝載天子旌旗，行魏正朔，郊祀天地禮樂制度皆如魏舊，上書不稱臣。同時又賜安樂公劉禪子弟一人為駙馬都尉。第二年又解除了對漢室的禁錮。這不但緩和了朝廷內患，尤其是消除了已成為司馬氏家族統治對象的曹氏家族心理上的恐懼，而且還安定了蜀漢人心，進而為贏得吳人的好感，吞併東吳取得了主動權。
為了儘早地使國家從艱辛、動亂的環境中擺脫出來，為統一打下牢固的基礎，無為與寬鬆成了西晉之初的立國精神，作為當時最有權威、同時也最具有號召力的人物，司馬炎更力求在國家的大政方針中充分體現這一點。泰始四年（公元268年），他在所頒詔書中明確指出：「為永保我大晉的江山，現以無為之法作為統領萬國的核心。」同年，又向郡國頒下五條詔書：一曰正身，二曰勤百姓，三曰撫孤寡，四曰敦本息末，五曰去人事。對於類似的詔令，我們固然不能排除官樣文章的因素，但也不能一味地看作浮詞虛語，因為它的基本精神還是符合當時現實背景的，即針對曹魏後期苛刻的政治而言的。當年，曹魏王朝的奠基者曹操繼東漢的動亂政治之後，為了安定人心，恢複國力，曾實行了比較寬鬆開放、節儉求實的建國方針，但到了曹丕，政治漸趨嚴厲，社會風氣亦向腐敗轉化，魏武當年的風範已是昨日黃花，成了絕響。皇帝往往為了滿足自己的私慾，不斷把強大的物質重負轉移到百姓的身上，而連綿的戰亂，更使百姓於慘淡的生計之外，在心理上增添了一種恐懼與疲憊之感。在這種情況下，司馬炎反其道而行之，提出無為而治的強國方略是適宜的。
正當司馬炎勵精圖治、西晉的國威蒸蒸日上的時候，東吳卻如日薄西山，處處表現出傾頹的趨勢。吳王孫皓那乖戾、殘忍、荒淫的天性在絕望的環境中更向病態發展，他無意中把東吳這輛氣息奄奄的破爛馬車，又向死亡驅進了一步。面對孫皓那頂用人血染紅的皇冠，朝野人人自危，噤若寒蟬。在這種情勢下，孫皓的昏庸也更襯托出司馬炎的開明，處在痛苦與黑暗中的東吳人開始向西晉尋求寄託，一些將領率眾倒戈，投降西晉。這在某種程度上進一步激發了晉人滅吳的慾望，於是，一時之間，滅吳成了朝野人士議論的話題。但司馬炎也深知，東吳雖弱，卻已立國幾十年，是個不容忽視的對手，如果在策略上稍有失誤，便會功敗垂成。因此，雖然朝野的滅吳呼聲日益增高，但司馬炎始終未輕易許諾。一直到泰始六年（公元270年），他才派羊祜到晉吳交界地荊州進行滅吳的準備工作。
司馬炎可謂慧眼獨具，一下子就抓住了一個合適的人選。羊祜不但在人格和才略上都無可挑剔，更是一個卓有謀略的軍事家。他少年時代就以清德名世，司馬炎受禪後，羊祜即以佐命之功，進位中軍將軍。鎮邊後更謹慎從事，力盡職守，不負國望。他一方面立即佔領要害之處和膏腴之地，使吳軍在軍事與物資上都處於捉襟見肘的境地；另一方面實行屯田，為日後的軍事行動打下雄厚的物質基礎。羊祜上任伊始，幾乎軍無現糧，可到他在任的最後一年，倉內已有10年的積蓄。在此基礎上，他又採取了與傳統的用兵之道「兵不厭詐」相反的策略，使用攻心戰術，取得吳人的信任，使他們在心理上產生一種對晉的親切感與對吳的疏離感。他每次與吳人交戰，總要等到日出，從不作掩襲之舉。有一次，晉軍俘虜了吳人的兩個孩子，羊祜不但不加以訊撻，還送他們回家與家人團聚，孩子的父親因此很感激，不久舉家降晉。東吳有一位將領叫鄧香，在攻打夏口時被俘虜，羊祜親解其縛，為了報答羊祜的不殺之恩，他也率部降晉。還有一次，羊祜帶兵巡視邊境，因軍糧不足，便沿途以吳境成熟的莊稼充饑，但事後立即讓士兵送絹給農田的主人作為償價。羊祜的良苦用心沒有白費，吳人開始改變了敵視晉的態度，甚至有人敬稱他為羊公。此時與羊祜對峙的是東吳名將陸抗，他知道，微笑有時比千軍萬馬更具有殺傷力，於是他也採取了與祜同樣的態度。有一次，陸抗生病，羊祜送去藥物，左右怕有毒，建議不要服用，陸抗說：「羊祜豈是害人之人。」然後毫不猶豫地服下。陸抗還告訴部下：「羊祜懷之以德，而我們卻加之以暴，這是不戰自敗，現在我們只需保守邊界，不要追求蠅頭小利。」於是，邊境日漸平安。但羊祜並沒有滿足於這一點，暗地悄悄地加緊滅吳的準備。可是，朝中權臣賈充等人卻從中阻撓，使司馬炎始終下不了滅吳的決心。時光飛逝，數度春秋後羊祜已進入暮年，雖然司馬炎在各方面對他備加禮遇，但仍然慰藉不了他壯闊的情懷，當老友中書令張華去看望他時，他滿懷憂慮地說：「吳國的政治太酷虐了，如果現在進攻，唾手可得。萬一孫皓一死，吳人另立新主，即使我們有百萬大軍，也難以跨越長江天險。」他又囑託張華：「我的願望是否能實現就靠你了。」終於，這位滅吳的奠基者沒能看到「一片降幡出石頭」的一天，於咸寧四年（公元278年）含恨而逝。
羊祜臨終之時推薦了另一位名將杜預接替了他的職務。這位風度儒雅的將軍有書生的頭腦，卻無書生的弱點，能力不亞於他的前任羊祜。羊祜死後，他擔任了鎮南大將軍，都督荊州諸軍事。杜預沒有辜負羊祜的期望，上任伊始，就表現出了卓越的軍事才能。他首先襲擊了駐守在要害之地的吳軍，並且大獲全勝，吳將張政恐朝廷怪罪，將此事隱而不報。杜預深知張政是一個不易對付的敵手，決定藉此事除掉他。杜預派人把戰俘送還東吳，孫皓聞之大怒，調離了張政。就這樣，杜預輕而易舉地趕走了自己的勁敵。這時，擔任訓練水軍重任的王濬已是70高齡的老人，他向朝廷上了一份情真意切的文表，表達他滅吳的心愿，與此同時，杜預也向司馬炎請求伐吳之期，杜預的疏表送到的時候，司馬炎正和張華下棋，張華沒有忘記老友羊祜的囑託，便推開棋盤，乘機鼓動：「陛下聰明神武，朝野又清平和樂，可謂國富兵強，而吳主荒淫暴虐，誅殺賢能。如果現在討伐東吳，可以不費吹灰之力。」在杜、王、張等人的敦促下，司馬炎終於下定了滅吳的決心。
戰事按照羊祜生前提出的方案進行：在滅吳的六路大軍中，王濬率領的巴蜀水軍是中堅力量。吳人為了阻擋晉軍的進攻，也早有準備，他們在長江的險要之處，布下長長的鐵鏈，又在江中埋下長丈余的鐵錐，企圖阻擋晉軍的戰艦。但這一情況早被羊祜預料到，所以在進攻之前，王濬就準備了大小竹排，並在上面放上披有盔甲的稻草人，使之前行，挾去江中的鐵錐。他又製作了巨大的火炬，灌上麻油，放在船前，遇到鐵鏈便點上火炬，使鐵鏈熔為鐵水。就這樣，吳人自恃的長江天險，在王濬的計謀下化作了平地，晉軍幾乎兵不血刃，迅速攻下了夏口、武昌，直驅吳都建業（今南京）。