Hz. Osman ve bazı sahâbîlerle onun arasında önemli tartışmalar oldu. Bütün bunların sonunda, uyarılarından bir
sonuç alamayan Ebû Zer el-Gifârî, Medine’den ayrılmak için izin istedi ve  kendi isteğiyle Hz. Osman tarafından Rebeze’ye gönderildi. Ancak bazı rivayetlerde onun zorla gönderildiği de söylenmektedir.