ففعل به من في قلعتها كما في صاحب الموصل ، فتفلت منهم أيضًا ، ووصل إلى بغداد ، فانتقل إلى بعض سفنها ، وتنكَر ، ووصل إلى بيته بباب الأزج . ثم شاع خبره ، فطلبه الخليفة إلى داره .
ولم يزل في هذه المدة يدرس القرآن ، ويدارس الفقه ويتحفظ ما كان نسيه من أنواع العلوم . ثم ولاه الخليفة سنة خمس وثمانين أمر المخزن والديوان ، ثم جعله أستاذ الدار سنة سبع وثمانين ، وفي ولايته هذه عقد المجلس لقاضي القضاة العباسي ، وأحضر القضاة والعلماء ، أفتوا وأثبتوا فسقه لقضية كان قد حكم فيها ، وعزله ، وبقي على ولايته إلى رجب سنة تسعين ، فعزل وقبض عليه . وذلك في ولاية ابن القصاب الوزارة .
وكان ابن القصاب رافضيًا خبيثًا . وكان الناصر يميل إلى الشيعة ، فسعى في القبض على ابن يونس ونفي الشيخ أبا الفرج إلى واسط وبقي ابن يونس معتقلاً إلى سنة ثلاث وتسعين ، فأخرج في سابع عشر صفر ميتًا . ودفن بالسرداب رحمه الله وسامحه .
وقد ذكر ابن النجار : أنه لم يكن في ولايته محمودًا . وقد علمت أن الناس لا يجتمعون على حمد شخص ولا ذمه . وأما أبو شامة فبالغ في ذمه والحط عليه بأمور لم يقم عليها حجة . وإنما قال : ويقال : إنه فعل كذا . ومثل هذا القدح لا يكفي في مستنده . ويقال كذا .
وكذلك ابن القادسي في تاريخه يذمه كثيرًا . وقد ذكر : أنه إذا آباه فصار ذا غرض معه .
وأما ابن الدبيثي فقال : كان فيه فضل ، وحسن سمت ووقار . وذكر : أنه لما عزل في المرة الأخيرة أقام بمنزله .
وذكر ابن القادسي : أنه لما قبض عليه استفتى عليه أنه كان تسبب إلى كسر عسكر الخليفة ، وقتلهم ونهبهم ، وأظهر موت الحليفة وهو حي . فكتب ابن فضلان كلاماً مضمونه : إباحة دم من فعل هذا . وكتب ابن الجوزي : أنه يلزمه غرامة

394