楊堅是個有高超政治手腕的人，在周隋之際他能夠在錯綜複雜的權力鬥爭中由弱轉強奪取天下，靠的就是那種捭闔縱橫的本領。楊堅上臺之初形勢危急，好友元諧說他猶如水中一堵牆，隨時都有倒塌的危險。連他的親兄弟、隋煬帝的二叔楊瓚也遠遠躲着他，怕受他的牽累。但楊堅在關鍵時刻十分清楚誰是友誰是敵，他只打擊公開的敵人:尉遲迥是宇文泰的外甥，孫女又被宣帝立爲五後之一，當時任相州總管，相州就是北齊都城鄴的舊地(今河北磁縣南);
司馬消難本是高歡女婿，因爲惹草拈花和公主失和逃到北周，當年接應他的就是隨國公楊忠，這段事前面第二篇有過交代。如今司馬的女兒成了靜帝的小皇后，司馬家纔是當今皇上真正的外戚，眼下又擁有靠近陳朝的鄖州(今湖北安陸);四川還有個益州總管王謙，雖然不是北周的皇親國戚但也是北周十二大將軍之後，此人因爲世受國恩，所以也站到了反對楊堅的陣地。後來反楊堅的力量越來越強，山東地區都舉起了反旗。
但楊堅只是全力以赴對付大象二年(580年)六月起兵反叛的尉遲迥。他用韋孝寬爲統帥，此人是北周名將，軍功資歷和尉遲迥相等，又是獨孤信的舊部，可是其餘大將不肯賣力，尉遲迥又在前線進行賄賂，所以戰事很不順利。楊堅原打算臨陣換將，李德林認爲楊堅目前威望不足，換將只會動搖前線軍心，不如派一有威信的大將前去督戰。於是楊堅派出高熲趕赴前線，果然士氣立即爲之大振。
尉遲迥雖是老將但威風不減，雙方在相州進行決戰，韋孝寬的人馬競擋不住尉遲迥親自發起的進攻。此時鄴城百姓數萬全都在城外觀戰，高熲竟然向圍觀的百姓發起攻擊，百姓一亂四下逃竄，尉遲的陣地被衝得七零八落，這時韋孝寬手下乘機大喊賊敗，大舉發動進攻。老將尉遲迥被崔弘度追趕，崔和尉遲是親戚，崔弘度故意拉下罩着的頭盔和尉遲打招呼，尉遲迥知道反抗已經無濟於事，痛罵楊堅後自殺。
崔弘度的弟弟割了尉遲迥的首級回營領賞。《隋書》上稱高熲爲“真宰相”，但封建時代的良相打仗時也一樣不顧百姓死活。八月鄴城被攻克後，城中數十萬人，不管是軍是民全都被坑殺在遊豫園。這場血腥大屠殺楊堅事先是知道的，楊家門都是“忠實”的佛徒，事後楊堅大概覺得罪孽太深，下令在園的南側葛履山上修了大慈寺，楊堅還特意寫了《相州戰場立寺詔》，讓廟裏和尚禮佛時不要忘了超度那些冤死的亡靈。
尉遲迥造反前後六十八天就被擊敗，其餘反叛隊伍幾乎沒有交手就紛紛瓦解。大將王誼在尉遲迥平定十天之後率軍攻打司馬消難，司馬氏連夜投奔南方的陳朝。同年十月楊堅派二十萬大軍入蜀，連戰連克，王謙在成都和官軍決戰，結果也被斬首。
