Facebook, nefret söylemini tespit etmede yine başarısız oldu

Facebook’a gönderilen reklamlarda şiddetli nefret söylemini tespit etme yeteneğini test eden kâr amacı gütmeyen grup Global Witness, platformun başarısız olduğunu açıkladı.

Geçtiğimiz aylarda nefret söylemlerini ve yanlış bilgiyi yayma, gençleri olumsuz yönde etkileme gibi konularda aktif rol oynadığı çeşitli araştırmalarla ortaya çıkan Facebook, eski çalışanlarının ifşalarından sonra daha çok mercek altına alınmaya başlamıştı.

Son olarak kâr amacı gütmeyen Global Witness ve Foxglove tarafından; Facebook’a sunulan reklamlarda şirketin, şiddet içeren nefret söylemini ne kadar iyi tespit edebildiği test edildi ve platform yine başarısız oldu.

Yeni araştırmalar da eski Facebook çalışanı Frances Haugen’ın ifşa ettiği gibi etnik şiddetin körüklendiği Etiyopya’ya odaklandı. Mart ayında Global Witness, Myanmar’da Facebook’un da tespit edemediği nefret söylemlerini belirleyen bir test yaptı.

ŞİDDET İÇEREN REKLAMLARIN HEPSİNİ ONAYLADI

Grup, Etiyopya’nın üç ana etnik grubuna (Amhara, Oromo ve Tigrayanlar) ait insanların öldürülmesi çağrısında bulunmak için nefret söylemi kullanan 12 metin tabanlı reklam oluşturdu. Facebook sistemleri, Myanmar reklamlarında olduğu gibi reklamların yayınlanmasını onayladı.

Ve grup, tespit edilemeyen ihlaller hakkında Meta’yı bilgilendirdi. Bir hafta sonra Global Witness, yine bariz nefret söylemi içeren iki reklamı daha onaya sundu. Etiyopya’da en çok kullanılan dil olan Amharca ile yazılan iki reklam da onaylandı.

Meta, yine reklamların onaylanmaması gerektiğini söyledi. Şirket, e-postayla gönderilen bir bildiride, “Etiyopya’da güvenlik önlemlerine büyük yatırımlar yaparak yerel uzmanlığa sahip daha fazla personel ekledik ve Amharca da dahil olmak üzere en çok konuşulan dillerde nefret dolu ve kışkırtıcı içeriği yakalama kapasitemizi geliştirdik” dedi.

Meta, İngilizcenin ana dil olmadığı ülkelerde kaç tane içerik moderatörü olduğunu söylemeyi reddediyor.