بحمله إلى المدينة على قتب بلا وطاء ، وفخذاه تسيلان دما فلما دخل المدينة جرى بينه وبين عثمان ما جرى ، ثم نفاه من المدينة عن حرم الله وحرم رسوله ، وأخرجه إلى الربذة وأقام بها حتى مات فقرا وجوعا وضرا وصبرا .
ولما نزل بالربذة مات بها ولده فوقف على قبره ، وقال رحمك الله يا بني لقد كنت كريم الخلق بارا بالوالدين ، وما علي في موتك من غضاضة ، وما بي إلى غير الله من حاجة وقد شغلني الاهتمام لك عن الاعتماد بك ثم قال : اللهم إنك فرضت عليه لي حقوقا فأني قد وهبت له ما فرضت عليه من حقوقي ، فهب له ما فرضت عليه من حقوقك فإنك أولى بالحق والكرم مني هذا وقوف أبي ذر على قبر ولده وكلماته فيه ، وأحرق من هذا وقوف الحسين ( ع ) على رأس ولده علي الأكبر ( ع ) وكلماته الخ .
فلما حضرته الوفاة دخل عليه قوم من أهل الربذة يعودونه فقالوا له : ما تشتكي ؟
قال : ذنوبي قالوا : فما تشتهي ؟ قال رحمة الله قالوا : فهل لك بطبيب ؟ قال : الطبيب أمرضني . قال لامرأته : اذبحي شاة من غنمك واصنعيها فإذا نضجت فاقعدي على قارعة الطريق فأول ركب ترينهم قولي يا عباد الله الصالحين هذا أبو ذر صاحب رسول الله قد قضى نحبه ولقي ربه ، فأعينوني عليه فأجيبوه قال رسول الله ( ص ) : أخبرني أني أموت في أرض غربة ، وأنه يلي غسلي ودفني والصلاة علي رجال من أمته صالحون .
عن محمد ابن علقمة قال : خرجت في رهط أريد الحج منهم مالك بن الحرث الأشتر فلما قدمنا الربذة إذا بامرأة على قارعة الطريق تقول : يا عباد الله المسلمين ، هذا أبو ذر صاحب رسول الله قد هلك غريبا ، ليس لي أحد يعينني عليه . قال : فاسترجعنا لعظم المصيبة ، ثم أقبلنا معها فجهزناه ، وتنافسنا في كفنه ، ثم قدمنا مالك بن الحرث الأشتر فصلى بنا عليه ثم دفناه ، وقام الأشتر على قبره وقال : اللهم إن هذا أبو ذر صاحب رسولك ، عبدك في العابدين ، وجاهد فيك المشركين ، لم يغير ولم يبدل ، لكنه رأى منكر فغيره بلسانه وقلبه ، حتى حفي ونفي ، وحرم واحتقر ، ثم مات غريبا وحيدا اللهم فاقصم من حرمه ونفاه من حرمك وحرم رسولك . فرفعنا أيدينا جميعا وقلنا آمين .
كان أبو ذر من أصحاب رسول الله صلى الله عليه وآله وسلم ، ولقد جفوة ونفوه وأخرجوه عن حرم الله وحرم رسوله ( ص ) ولقد جفوة من هو أعز من أبي ذر ونفوه وأخرجوه عن حرم الله وحرم رسول الله ( ص ) ، وهو ريحانة رسول الله ( ص ) حيث جمع أهل بيته حوله