Roblox, Zararlı İçerikleri Sizlere Ulaşmadan Önlemek İçin Yapay Zeka Moderasyonu Kullanıyor!
Roblox oynadıysanız, platformun ne kadar çılgın ve öngörülemez olduğunu bilirsiniz. Şimdi, Roblox bu öngörülemezliği, içerik moderasyonunu yeniden yapılandırmak için bir neden olarak kullanıyor.
Platform yenilikçi bir gerçek zamanlı çok modlu AI moderasyon sistemini devreye soktu. Bu sistem, yalnızca tekil durumları incelemekle kalmayıp, tüm oyun içi sahneleri gerçek zamanlı olarak tarayarak daha önceki filtrelerden kaçan içerikleri tespit ediyor.
Roblox’un yeni AI moderasyonu nasıl çalışıyor?
Önceki moderasyon araçlarının bir nesneyi tek tek değerlendirirken, yeni çok modlu sistem, avatarlar, metinler ve 3D nesneler dahil olmak üzere bir sahnenin tamamını değerlendirerek Roblox’un Topluluk Standartları’nı ihlal edip etmediğini belirliyor.
Örneğin, ücretsiz çizim aracıyla bir saldırgan sembol çizdiğini düşünün — bu, tek nesne kontrolüyle tetiklenmeyebilir ama bağlam açısından bir sorun olduğu açıktır.
Bir oyunun içinde tekrar eden ihlaller tespit edildiğinde, sistem yalnızca o sunucuyu kapatıyor. Şu ana kadar günde yaklaşık 5,000 sunucu kapatılıyor.
Roblox, bu sistemle oyun süresinin %100’ünü izlemeyi hedefliyor. Sunucu kapatmalarının ötesinde, bireysel kötü oyuncuları tespit edip kaldırmaya yönelik araçlar geliştirmeye de çalışıyor; bu sayede diğer oyuncuların deneyimi bozulmadan sorunları çözmek mümkün olacak.
Bu, Roblox yaratıcıları için ne anlama geliyor?
Yaratıcılar da karanlıkta kalmıyor. Mevcut Yaratıcı Kontrol Paneli’nde, o gün içinde kötü kullanıcı davranışları nedeniyle kaç tane oyunun sunucusunun kapatıldığını gösteren yeni bir grafik mevcut.
Bu sayının artışları, incelenmeye değer bir sorunu işaret edebilir. Böylece yaratıcılara durumu kötüleştirmeden önce özel emojileri veya oyun içi yapım araçlarını gözden geçirme fırsatı tanıyacak.
Çevrimiçi oyunları temizlemek için yeni bir sertifikasyon programı
Roblox, daha büyük bir endüstri sorununu da ele alıyor. Keyword Studios ve Riot Games ile birlikte, çevrimiçi topluluk yöneticileri ve moderatörleri için DLC Liderlik Programını geliştirmekte.
Araştırma psikoloğu Rachel Kowert, Games for Change’da Araştırma Direktörü olarak akademik tarafı yönetiyor. Amaç, oyun topluluklarını yöneten insanlar için standartlara dayalı ve kanıta dayalı bir eğitim oluşturmak; bu, endüstrinin daha önce hiç sahip olmadığı bir şey.
Roblox, ebeveyn denetimlerinden yaşa dayalı sohbet filtrelerine kadar güvenlik önlemlerini güçlendirmeye devam ediyor ve son güncelleme, şimdiye kadarki en iddialı adımı.
