中平四年，韩遂杀边章及北宫伯玉、李文侯，拥兵十余万，进军围陇西。

四月，凉州刺史耿鄙率六郡兵讨伐韩遂，陇西太守李相如、酒泉太守黄衍反，与韩遂连和，耿鄙抵挡不住，退守酒泉，后贪图享乐，抢别驾迪宁之妻，为其所杀。

时司马马腾杀迪宁报耿鄙之仇，左右信之，听其调遣，腾乃尽掌鄙所统之兵。

韩遂乃写书于腾曰：“吾知公乃名门之后，以匡扶汉室为荣，然今之汉，已非彼之汉也，宦官当道，民不聊生，公助此国有何意？

不如与吾一起，推翻其政，再创安逸之世，尚可再以汉为国号，亦不失汉臣之名也。”

马腾闻之有理，乃与其歃血为盟，结义为兄弟，共图大事。

时有汉阳人王国，自称合众将军，与马腾、韩遂联合，进而围汉阳，汉阳太守傅燮战死，腾、遂等共推王国为主，攻掠三辅地区。

中平五年十一月，天下群雄割据，王国乃乘机围陈仓。

灵帝乃诏复拜皇甫嵩为左将军，督征南将军董卓，合兵四万人以拒之，然马腾、韩遂骁勇，数战不利，乃退守陈仓。

中平六年二月，王国围陈仓八十余日，因城池坚固，久攻不破，国乃引军撤退。

皇甫嵩乃趁机率军追击，大获全胜，斩首一万余级。

遂、腾等人认为王国无能，共同将其废掉，胁迫前任信都县令、凉州名士阎忠担任首领，统率各部。

阎忠不肯助纣为虐，而愤然就死，时董卓军中一人不知为何，因忠之死怒于遂、腾。

一时间锋芒毕露，先献策出奇兵大破二人，夺其四城，后又设反间之计，使二人继而互相攻杀，势力逐渐衰弱。

此人辅佐李傕一年余，行踪诡异，时而时现，镇守西凉之地，轻易献策便能压制腾、遂等人。

至牛辅下令，李傕出军，此人曰不可，若李傕离境，马腾、韩遂等必然骚乱而起，那时无人可挡。