渊至左国城，刘宣等上大单于之号，二旬之间，有众五万，都于离石，以聪为鹿蠡王。遣左于陆王宏帅精骑五千，会颖将王粹拒东嬴公腾。粹已为腾所败，宏无及而归。
帝既还洛阳，张方拥兵独裁朝政，太弟颖不得复豫事。豫州都督范阳王虓、徐州都督东平王楙等上言：“颖弗克负荷，宜降封一邑，特全其命。太宰宜委以关右之任，自州郡以下，推举授任，一皆仰成；朝之大事，废兴损益，每辄畴咨。张方为国效节，而不达变通，未即西还，宜遣还郡，所加方官，请悉如旧。司徒戎、司空越，并忠国谨慎，宜干机事，委以朝政。王浚有定社稷之勋，宜特崇重，遂抚幽朔，长为北藩。臣等极力抜城，藩屏皇家，则陛下垂拱，四海自正矣。”
元达少有志操，渊尝招之，元达不答。及渊为汉王，或谓元达曰：“君其惧乎？”元达笑曰：“吾知其人久矣，彼亦亮吾之心；但恐不过3、二日，驿书必至。”其暮，渊果征元达。元达事渊，屡进忠告，退而削草，虽后辈莫得知也。
渊白颖，请归会葬，颖弗许。渊令攸先归，告宣等使调集五部及杂胡，声言助颖，实欲叛之。及王浚、东嬴公腾起兵，渊说颖曰：“今二镇放肆，众十馀万，恐非宿卫及近郡士众所能御也，请为殿下还说五部，以赴国难。”颖曰：“五部之众，果可发否？就能发之，鲜卑、乌桓，未易当也。吾欲奉乘舆还洛阳以避其锋，徐传檄天下，以逆顺制之，君意何如？”渊曰：“殿下武天子之子，有大勋于王室，威恩远著，四海以内，孰不肯为殿下尽死力者！何难发之！王浚竖子，东嬴疏属，岂能与殿下争衡邪！殿下一发邺宫，逞强于人，洛阳不成得而至；虽至洛阳，威权不复在殿下也。愿殿下抚勉士众，靖以镇之，渊请为殿下以二部摧东嬴，三部枭王浚，二竖之首，可指日而悬也。”颖悦，拜渊为北单于、参丞相军事。
王浚、东嬴公腾合兵击王斌，大破之。浚以主簿祁弘为前锋，败石超于平棘，乘胜进军。候骑至邺，邺中大震，百僚驰驱，土卒分离。卢志劝颖奉帝还洛阳。时甲士另有万五千人，志夜部分，至晓将发，而程太妃恋邺不欲去，颖猜疑未决。俄而众溃，颖遂将帐下数十骑与志奉帝御犊车南奔洛阳。匆促高低无赍，中黄门被囊中赍私钱三千，诏贷之，于道中买饭，夜则御中黄门布被，食以瓦盆。至温，将谒陵，帝丧履，纳从者之履，下拜流涕。及济河，张方自洛阳遣其子罴帅骑三千，以所乘车奉迎帝。至芒山下，方自帅万馀骑迎帝。方将拜见，帝下车自止之。帝还宫，奔散者稍还，百官粗备。辛巳，大赦。
曜生而眉白，目有赤光，幼聪明，有胆量，早孤，养于渊。及长，仪观魁伟，性拓落高亮，与众不群。好读书，善属文，铁厚一寸，射而洞之。常自比乐毅及萧、曹，时人莫之许也；惟刘聪重之，曰：“永明，汉世祖、魏武之流，数公何足道哉！”
渊从祖右贤王宣谓其族人曰：“自汉亡以来，我单于徒有虚号，无复尺土；自馀贵爵，降同编户。今吾众虽衰，犹不减二万，何如敛手受役，奄过百年！左贤王威武超世，天苟不欲兴匈奴，必不虚生此人也。今司马氏骨肉相残，四海鼎沸，复呼韩邪之业，此当时矣！”乃相与谋，推渊为大单于，使其党呼延攸诣邺告之。
刘渊迁都左国城，胡、晋归之者愈众。渊谓群臣曰：“昔汉有天下悠长，恩结于民。吾，汉氏之甥，约为兄弟。兄亡弟绍，不亦可乎！”