五月十四日，石遵到了安阳亭，张豺惧而出迎，石遵下令将他逮捕。
五月十五日，石遵全副武装，军容盛大，从凤阳门入城，登太武前殿，在石虎灵柩前捶胸顿足，号哭尽哀，退入东阁。斩张豺于平乐市场，夷灭三族。假传刘氏命令说：“嗣子幼冲，是先帝私心所授，皇业至重，不是他所能胜任的，现在，以石遵嗣位。”于是石遵即位，大赦，撤除上白包围。
五月十六日，封石世为谯王，废刘氏为太妃，不久将他们都处死。
李农来归罪，石遵令他官复原职，尊母亲郑氏为皇太后，立妃子张氏为皇后，已故燕王石斌之子石衍为皇太子。任命义阳王石鉴为侍中、太傅，沛王石冲为太保，乐平王石苞为大司马，汝阴王石琨为大将军，武兴公石闵为都督中外诸军事、辅国大将军。
五月十九日，邺城中暴风拔树，震雷，冰雹有瓦罐那么大。太武殿、晖华殿火灾，诸宫门及亭台楼阁，都烧得荡然无存，乘舆服御，烧毁超过三分之二，金银珠宝，全部烧尽，大火一个多月才熄灭。
当时沛王石冲镇守蓟城，听说石遵杀死石世，自立为帝，对僚佐们说：“石世受先帝之命，石遵却废而杀之，罪莫大焉！现在，下令内外戒严，孤将亲自讨伐他。”于是留宁北将军沐坚戍守幽州，率众五万从蓟城南下，传檄燕、赵，所到之处，四方响应的兵马云集而来。到了常山，部众发展到十余万，驻军于苑乡。这时，收到石遵的大赦令，石冲说：“唉！都是我的弟弟，死者不可复追，为什么还要兄弟相残呢！我将归去矣！”部将陈暹说：“彭城王篡弑自尊，罪莫大焉！大王虽然北归，臣将南征。等平定京师，生擒彭城王，然后奉迎大驾。”石冲于是继续进兵。石遵派王擢飞驰，送亲笔信给石冲，石冲不听。石遵派武兴公石闵及李农等率精兵十万讨伐，战于平棘，石冲兵大败。在元氏县俘虏石冲，赐死，坑杀其士卒三万多人。