531年，高歡自信都(今河北冀州)發兵，充滿信心地公然挑戰爾朱氏勢力。兩軍對陣時，爾朱氏的兵力雖然具有絕對的優勢，但高歡和屬下一同商議應對之策 時，大將段韶胸有成竹地說道：“儘管他們比我們人多，可那也不表示天下人都擁護他們。爾朱兆這些人殺死了皇帝，還屠殺朝臣，殘害百姓，人民能不憎恨他們 嗎?主公您征討他們是順乎民意，必定會勢如破竹，他們根本抵擋不住。” 經過一段時間的休養後，高歡就率領2000騎軍和3萬餘步兵，在臨近鄴城的韓陵山擺開了陣勢。他向兵卒宣稱此戰將會孤注一擲，不留退路，要想活命就要奮戰到底。衆將士在他的鼓勵下，意氣風發，都決心與爾朱氏決一死戰。
沒多久，爾朱兆率領將士趕了過來，他遠遠地看見高歡，就怒喝道：“你竟然背叛我，我做了什麼對不起你的事嗎?” 高歡義正詞嚴地說道：“你們爾朱氏不僅害死了皇帝，還肆意橫行，致使國家動盪，簡直是罪大惡極，不可饒恕，我不過是順應民心，一定要爲百姓除掉你。”一 聽這話，爾朱兆怒吼了一聲，立即率領兵馬衝殺過來。起初，爾朱兆由於極端憤怒，左衝右突奮力廝殺，佔據了優勢，可是沒過多久，高歡的數名手下就自側面率軍 衝殺過來，致使爾朱兆軍大亂。
爾朱兆平日裏很少管教將士，軍隊紀律也不嚴明，此刻將士們亂作一團，七零八落。高歡僅用3萬兵馬，很快就戰勝了爾朱兆的20萬大軍。 此後，被逼無奈的爾朱兆自殺而亡，爾朱世隆也被斬首，高歡順利地剷除了爾朱氏的勢力。
