Platformların içerik denetleme konusundaki mücadelesinde, yapay zeka genellikle ön planda. Bu teknolojiyle içeriklerini denetleyen en büyük teknoloji devlerinden biri olan Facebook’ta, günlük 2 milyar kullanıcısı ile büyük miktarda içerik yayınlıyor. Bu içeriklerin çoğunun, insanların paylaştığı mezuniyet, doğum günleri veya gündelik gezilerinden fotoğraflar olduğunu düşünebilirsiniz ama bu gönderiler arasında maalesef çokca da yalan haber, yanlış bilgi ve nefret söylemleri gibi zararlı içerik de var. The Verge’in makalesi, Facebook’un makine öğrenimini üzerinden içerikleri nasıl denetlediğini, yapay zeka teknolojilerini insan moderatörlerle nasıl desteklediğini ve bu değişimin etkisini anlatıyor.
Şirketin içerik paylaşma kurallarını ihlal ettiği düşünülen gönderileri (spam’den nefret söylemine ve “şiddeti yücelten” içeriğe kadar her şey) kullanıcılar veya makine öğrenimi ile işaretleniyor. Açıkça kurallara uymayan içeriklerikler otomatik olarak ele alınırken (örneğin yanıtlar bir gönderinin kaldırılmasını veya bir hesabın bloke edilmesini içerebilir) geri kalanı insan moderatörler tarafından incelenmek üzere bekletiliyor.
Facebook, içeriklerin yönetmek için yapay zekayı kullanması çevrimiçi iletişim süreçlerini denetleme kapasitesinden yoksun olduğu gerekçesiyle eleştiriliyordu. Özellikle yanlış bilgi, siber zorbalık ve taciz gibi konularda, bir bilgisayarın neye baktığını bilmesi neredeyse imkansız görülmekteydi.
Şirkette yazılım mühendisi olan Chris Palow, yapay zekanın sınırları olduğunu kabul ediyor, ancak gazetecilere teknolojinin istenmeyen içeriğin kaldırılmasında yine de rol oynayabileceğini söylüyor. Yeni modellemelerinde sistem, daha az hata yapmak için yapay zeka ile insanı birlikte çalışmayı içeriyor.
Facebook’un yapay zeka moderasyonunun nasıl çalıştığını anlamak için makaleyi okuyabilirsiniz:
https://www.theverge.com/2020/11/13/21562596/facebook-ai-moderation
