徐州刺史尔朱仲远和尔朱度律因为听信流言与尔朱兆不和，遂引兵南走。高欢乘机进攻广阿，大败尔朱兆的军队，俘虏其部众5000余人；

十一月，高欢率军乘胜进攻邺城（今临漳西南）。相州刺史刘诞关闭邺城城门固守。双方僵持了一个月后，高欢想到了攻城的妙计。

532年正月，高欢指挥军兵开挖地道，以木柱支撑，一直掘至邺城的地下，然后焚烧木柱令邺城地陷，高欢的大军在地陷处一涌而上，攻克邺城，生擒了刘诞。

到了这个时候，尔朱氏诸将才明白是中了高欢的离间计，于是诸将重归于好，共同对付高欢。

同年三月，高欢迎接北魏皇帝元朗率领百官进入邺城。高欢因为攻城有功，被元朗封为大丞相、柱国大将军、太师。

这年的闰三月，尔朱天光自长安（今西安西北）、尔朱兆自晋阳、尔朱度律自洛阳（今河南洛阳东北）、尔朱仲远自东郡（今滑县）等地出发，会师邺城南方，号称二十万雄师，布阵于洹水（今安阳河）两岸，准备攻打邺城。

高欢派高隆之坚守邺城；自己则亲自领兵屯于邺城西北的紫陌；大都督高敖曹领乡里部曲3000人跟从高欢。二十六日，尔朱兆率轻骑3000趁着夜色天黑攻打邺城西门，数次冲击城门无果后退了回去。

其时，屯兵在紫陌的高欢战马不满两千，兵力不过三万，在敌众我寡的情势之下，高欢下令用牛驴连系在一起堵塞自家军队的退路，在韩陵一带摆成圆阵，士兵们见没有了退路，都抱着必死之心去应战。

高欢亲自带领中军在前方突击，大将高敖曹率领三千军兵在左边协从，高欢堂弟高岳率领右军从旁跟随。

高欢的中军迎战不利，被逼后退，尔朱兆就带兵直扑高欢的中军而来。高岳率五百骑兵突袭前方迎战敌兵，高欢另外一个部将斛律敦收拾败退四散的兵士后，重整旗鼓从尔朱兆后面又扑了上去，大将高敖曹亲自率一千多骑兵横击而入阵中，如此前中后左右攻打尔朱兆的大军，在高欢的五路军兵的冲击下，尔朱兆军队大败。

高欢以逸待劳，以少胜多，以不足三万兵力重创尔朱兆等人的二十万大军，尔朱家族的人在兵败后四散逃跑，高欢乘胜追击，直逼北魏的首都洛阳城。

高欢带领着刚刚打了大胜仗的军队对尔朱兆的军队穷追猛打，一直去到洛阳城下。尔朱家族大军退守洛阳城。

高欢下令围攻洛阳，准备彻底消灭尔朱家族。原属节闵帝臣下的一名大都督斛斯椿本来就是个首鼠两端的人，他见尔朱家族大势已去，便想着向高欢投降以求活命，于是便带人抢先一步回到洛阳，杀尽留守的尔朱氏党羽，打开城门投降。

尔朱兆见势不妙，带领着残兵败将逃回晋阳城垂死挣扎。高欢自此进驻洛阳，并将尔朱兆尊立的节闵帝元恭废黜幽禁。