燕平狄将军慕容霸上书于燕王俊曰：“石虎穷凶极暴，天之所弃，馀烬仅存，自相鱼肉。今中国倒悬，盼望仁恤，若雄师一振，必将投戈。”北平太守孙兴亦表言：“石氏大乱，宜以时进取中原。”俊以新遭大丧，弗许。霸驰诣龙城，言于俊曰：“可贵而易失者，时也。万一石氏衰而答复，或有豪杰据其成资，岂惟失此大利，亦恐更加后患。”俊曰：“邺中虽乱，邓恒据安乐，兵强粮足，今若伐赵，东道不成由也，当由卢龙；卢龙山径险狭，虏乘高断要，首尾为患，将若之何？”霸曰：“恒虽欲为石氏把守，其将士顾家，人怀归志，若雄师临之，天然崩溃。臣请为殿下前驱，东出徒河，潜趣令支，出其不料，彼闻之，必将震骇，上不过闭门自守，下不免弃城逃溃，何暇御我哉！但是殿下能够安步而前，无复留难矣。”俊踌躇未决，以问五材将军封弈，对曰：“用兵之道，敌强则用智，敌弱则用势。是故以大吞小，犹狼之食豚也；以治易乱，犹日之消雪也。大王自上世以来，积善累仁，兵强士练。石虎极其残暴，死未瞑目，子孙争国，高低乖乱。中国之民，坠于涂炭，廷颈企踵以待振拔，大王若扬兵南迈，先取蓟城，次指邺都，宣耀威德，怀抚遗民，彼孰不扶老提幼以迎大王？凶党将望旗冰碎，安能为害乎！”处置中郎黄泓曰：“今太白经天，岁集毕北，天下易主，阴国受命，此必定之验也，宜速出师，以承天意。”折冲将军慕舆根曰：“中国之民困于石氏之乱，咸思易主以救汤火之急，此千载一时，不成失也。自武宣王以来，招贤养民，务农训兵，正俟本日。今时至不取，更复顾虑，岂天意未欲使海内安定邪，将大王不欲取天下也？”俊笑而从之。以慕容恪为辅国将军，慕容评为辅弼将军，左长史阳鹜为辅义将军，谓之“三辅”。慕容霸为前锋都督、建锋将军。选精兵二十馀万，讲武戒严，为进取之计。
蒲月，遵自李城举兵，还趣邺，洛州刺史刘国帅洛阳之众往会之。檄至邺，张豺大惧，驰召上白之军。丙戌，遵军于荡阴，戎卒九万，石闵为前锋。豺将出拒之，耆旧、羯士皆曰：“彭城王来奔丧，吾当出迎之，不能为张豺守城也！”逾城而出；豺斩之，不能止。张离亦帅腾二千，斩关迎遵。刘氏惧，召张豺入，对之悲哭曰：“先帝梓宫未殡，而祸难至此！今嗣子冲幼，托之将军，将军将若之何？欲加遵重位，能弭之乎？”豺惶怖不知所出，但云“唯唯”。乃下诏，以遵为丞相，领大司马、多数督、督中外诸军，录尚书事，加黄钺、九锡。己丑，遵至安阳亭，张豺惧而出迎，服从执之。庚寅，遵擐甲曜兵，入自凤阳门，升太武前殿，擗踊尽哀，退如东閤。斩张豺于平乐市，夷其三族。假刘氏令曰：“嗣子幼冲，先帝私恩所授，皇业至重，非所克堪，其以遵嗣位。”因而遵即位，大赦，罢上白之围。辛卯，封世为谯王，废刘氏为太妃，寻皆杀之。李农来归咎，使复其位。尊母郑氏为皇太后，立妃张氏为皇后，故燕王斌子衍为皇太子。以义阳王鉴为侍中、太傅，沛王冲为太保，乐平王苞为大司马，汝阴王琨为大将军，武兴公闵为都督中外诸军事、辅国大将军。