他出任州官，谷士恢留恋宠信，不愿外任，太后就诬陷他有罪并杀死他。有个叫蜜多的道人，会说胡语，皇帝常让他留在身边，太后派人在城南杀死他，却谎称悬赏捉拿凶手。从此母子之间的隔阂日益加深。

当时，车骑将军、仪同三司、并、肆、汾、广、恒、云六州讨虏大都督尔朱荣兵力强盛，北魏朝廷对他既忌惮又畏惧。高欢、段荣、尉景、蔡俊起初在杜洛周党羽中，想谋害杜洛周，没能成功，逃奔葛荣，后来又逃归尔朱荣。刘贵此前就在尔朱荣手下，多次向尔朱荣推荐高欢，尔朱荣见高欢容貌憔悴，没觉得他有特别之处。一次高欢跟随尔朱荣到马厩，马厩里有匹凶悍的马，尔朱荣让高欢修剪马毛，高欢没给马套上羁绊就直接修剪，马竟然没有踢咬；高欢起身对尔朱荣说：“驾驭恶人也和这道理一样。”尔朱荣对他的话感到惊奇，让高欢坐在床榻旁，屏退身边的人，向他询问当前局势。高欢说：“听说您有十二谷马，按毛色分成不同群体，养这些马最终有什么用呢？”尔朱荣说：“只管说你的想法！”高欢说：“如今皇帝懦弱，太后荒淫混乱，宠臣专权，朝政无法推行。凭您的雄才武略，趁此时机奋起，讨伐郑俨、徐纥的罪行来清除皇帝身边的奸人，霸业唾手可得，这就是我高欢（字贺六浑）的想法。”尔朱荣非常高兴，两人从中午交谈至半夜，高欢才离开，从此尔朱荣凡事都让高欢参与谋划。

并州刺史元天穆，是元孤的五世孙，与尔朱荣关系要好，尔朱荣像对待兄长一样对待他。尔朱荣常与元天穆及帐下都督贺拔岳秘密谋划，想出兵进入洛阳，对内诛杀宠臣，对外平定盗贼，两人都劝说尔朱荣实施这个计划。

尔朱荣上书朝廷，称“太行山以东的盗贼正猖獗，冀州、定州陷落，官军多次战败，请派遣三千精锐骑兵向东救援相州。”胡太后怀疑他的意图，回复说“莫折念生已被斩首，萧宝寅被擒获，万俟丑奴请求投降，关中、陇右已经平定。费穆大败蛮族部落，绛蜀叛乱也逐渐平定。另外，北海王元颢率领两万部众前往镇守相州，无需再出兵。”尔朱荣再次上书，认为“叛军势力虽有所削弱，但官军多次战败，人心恐惧胆怯，恐怕实际难以任用。如果不再思考对策，无法保证万无一失。我认为柔然君主阿那瑰蒙受国家厚恩，不应忘记报答，应派他出兵向东赶赴下口，从背后牵制叛军；北海王元颢那边要严加戒备，正面抵挡叛军。我的部下虽然不多，仍会尽力效命。从井陉以北，滏口以西，分别占据险要地势，进攻叛军的薄弱环节。葛荣虽然吞并了杜洛周，但恩德威望尚未树立，部众成分复杂，局势仍可分化。”于是尔朱荣整顿军队，召集义勇之士，向北守卫马邑，向东封锁井陉。徐纥劝说胡太后用铁券离间尔朱荣的部下，尔朱荣听说后，对徐纥十分怨恨。

北魏肃宗（孝明帝）也厌恶郑俨、徐纥等人，但受胡太后逼迫，无法除掉他们。他秘密下诏让尔朱荣领兵进京，想借此胁迫太后。尔朱荣任命高欢为前锋，行军到上党时，孝明帝又下私诏阻止他前进。郑俨、徐纥担心灾祸降临自己身上，暗中与胡太后谋划，用毒酒害死了孝明帝。癸丑日，孝明帝突然去世。甲寅日，胡太后立刚出生的皇女为皇帝，宣布大赦天下。不久后又下诏说：“潘充华（潘嫔）实际生的是女儿，已故临洮王元宝晖的世子元钊，是高祖（元宏）的后代，应当继承皇位。文武百官各升二阶，宫廷侍卫各升三阶。”乙卯日，元钊即位。元钊刚满三岁，胡太后想长期掌控朝政，故意选年幼的他当皇帝。

尔朱荣听说后，勃然大怒，对元天穆说：“皇上去世时，才十九岁，天下人还称他是幼君；何况现在拥立一个还不会说话的小孩统治天下，想求得国家安定，怎么可能呢！我打算率领精锐骑兵前往京城哀悼，铲除奸佞之徒，另立年长的君主，你觉得怎么样？”元天穆说：“这简直是伊尹、霍光（古代辅政名臣）重现当世啊！”于是尔朱荣上奏朝廷，称：“已故皇帝背弃天下百姓，天下人都说是被毒杀的。哪有皇帝生病，一开始不召医生诊治，皇亲国戚、朝中大臣都不在身边侍奉的道理？这怎能不让天下人感到奇怪和震惊！太后又把皇女当作皇位继承人，虚假地实行大赦。上欺天地，下惑朝野。随后又在幼儿中挑选君主，实际上是让奸臣专权，败坏法纪，这和捂着眼睛捉麻雀、堵着耳朵偷钟有什么区别！如今盗贼遍地，邻国伺机侵扰，却想靠不会说话的小孩安定天下，不是太难了吗！希望陛下允许我进京，参与重大决策，询问侍臣皇帝去世的原因，调查宫廷侍卫不知情的情况，将徐纥、郑俨之流交给司法部门治罪，洗刷不共戴天的耻辱，平息天下人的怨恨，然后再挑选皇室宗亲继承皇位。”尔朱荣的堂弟尔朱世隆，当时担任直阁，胡太后派他前往晋阳安抚尔朱荣；尔朱荣想留下他，尔朱世隆说：“朝廷怀疑兄长，所以派我来，现在留下我，会让朝廷提前防备，不是好计策。”尔朱荣于是放他回去。

三月癸未日，葛荣攻陷北魏沧州，抓获刺史薛庆之，城中百姓死了十分之八九。

乙酉日，北魏将孝明皇帝安葬在定陵，庙号为肃宗。

尔朱荣与元天穆商议，认为彭城武宣王（元勰）有忠臣功勋，他的儿子长乐王元子攸，一向有好名声，想立元子攸为皇帝。又派侄子尔朱天