西晉成立之初，晉武帝爲了收買人心，大封功臣，許多大家族都被封爲公侯，短短几年時間，晉武帝共封了57個王，500多個公侯。
蜀漢滅亡不久，晉武帝爲了穩定巴蜀人心，又任用了一批原在蜀漢供職的官吏爲朝官，晉武帝沒有采取“一朝天子一朝臣”的慣用手法，而是採取拉攏、收買人心的辦法，穩定各級官吏，以確保社會穩定地過渡，因爲晉武帝還看到，蜀漢雖亡，東吳未滅，全國還未統一，於是他開始運籌帷幄，準備擊滅東吳，結束全國的分裂局面。
早在三國鼎立之時，魏的勢力已超過蜀、吳，如以人口計，魏約佔全國人口3/7，蜀、吳合佔4/7。
263年，魏滅蜀之後，三國鼎立變成了南北對峙，魏的力量更加強大，晉武帝代魏之後，雄心勃勃，“密有滅吳之計”，準備出兵滅吳，統一全國。
西晉全國正處於一種積極的態勢之中，然吳國卻是在走下坡路，吳主孫皓的荒淫、殘暴使吳國喪失了重整旗鼓的機會，孫皓命令大臣的女兒要先經過他的挑選，漂亮的入後宮供他一人享受，剩下的才能談婚論嫁，這使他喪失了大臣們的支持，自毀根本，最終成了孤家寡人。
對他勸諫的中書令賀邵不但沒有受到他的表揚，反用燒紅的鋸條殘忍地鋸下了舌頭，其殘暴程度與商紂王沒有任何區別。
孫皓殺人的方法很多，很殘忍，像挖眼、剝臉皮和砍掉雙腳等，孫皓的殘暴註定了他要滅亡，由於孫皓的殘暴使手下的將領們也對他喪失了信心，紛紛投降西晉。
西晉的大臣們見吳國國力下降，政局不穩，也紛紛勸說司馬炎趁機滅掉吳國。
但是，晉武帝受到了以太尉錄尚書事賈充爲首的保守派的反對，他們認爲：吳有長江天險，且善水戰，北人難以取勝，且近幾年來西鮮卑舉兵反晉，此時對吳作戰，並“非其時”。
而羊祜、張華、杜預等人則認爲：吳帝孫皓腐化透頂，他不但對廣大人民殘酷剝削、鎮壓，而且在統治集團內部也排除異己，用刑殘酷，孫吳現已是“上下離心”，如此刻出兵，“可不戰而勝”，如果錯過機會，“吳人更立令主”，勵精圖治，再去滅吳就相當不容易了。
兩派意見，針鋒相對，這樣，一個極其嚴重的問題就擺在了晉武帝面前：是否出兵滅吳，統一全國?晉武帝站在主戰派一邊。
爲了完成滅吳大業，晉武帝在戰略上做了充分準備，早在公元269年，他就派羊祜坐守軍事重鎮荊州，着手滅吳的準備工作，羊祜坐鎮荊州後，減輕賦稅，安定民心，荊州與東吳重鎮石城(今湖北鍾祥縣)相距最近，晉軍採取了“以善取勝”的策略，向吳軍大施恩惠。
由於孫皓揮霍無度，部隊士兵常常領不到軍餉，連飯也吃不飽，羊祜命人向吳軍送酒送肉，瓦解吳軍，這樣，不時有吳軍前來投降，羊祜下令說：吳軍來要歡迎，走要歡送，有一次，吳將鄧香被晉軍抓到夏口，羊祜部下堅持要殺掉，羊祜不但不殺鄧，而且還親自爲其鬆綁，把鄧送了回去。
有時，吳軍狩獵打傷的野獸逃到了晉軍領地，晉軍也把這些野獸送到吳軍帳內，正是由於這樣的“厚”愛，東吳將領們的心已經一步步趨向晉軍。
晉武帝在襄陽一邊命羊祜以仁德對吳軍施加影響，一邊在長江上游的益州訓練水軍，建造戰船，經過長達10年時間的充分準備，公元279年，晉軍開始向東吳展開大規模的進攻，爲了迅速奪取勝利，晉軍分5路沿長江北岸，向吳軍齊頭併發，第6路晉軍由巴東、益州出發，沿江東下，直搗吳軍都城建業，20萬晉軍直撲東吳。
東吳守軍，在巫峽釘下了無數個鋒利無比的、長十餘丈的鐵錐，在江面狹窄處用粗大的鐵鏈封鎖江面，晉軍先用大竹排放入長江，晉軍在船上載了無數根數丈長的用麻油澆灌的火點燃火炬，熊熊烈火能夠把鐵鏈燒斷，就這樣，東吳長江的防守設施被一個個排除了。
在第6路晉軍進攻東吳時，爲了分散、吸引守衛建業的吳軍兵力，安東將軍王渾率一路晉軍，由北向南，直取建業，孫皓忙命丞相張悌統率主力渡江北上，迎擊王渾，結果沿江東下的晉軍乘機攻佔了建業。
由於晉武帝準備充分，時機恰當，戰略正確，前後僅用了四個多月，便奪取了滅吳戰爭的全部勝利，從此，東吳的全部郡、州、縣，正式併入晉國版圖。
280年，三國鼎立的局面完全結束了，晉武帝司馬炎終於統一了全國，結束了長達近百年的分裂局面。
