Instagram’ın Yapay Zekâsı, Çocuklara Cinselliği Anlatıyor!

Instagram ve Facebook, çocuklar için zararlı platformlar olarak biliniyordu. Yapay zeka eklendiğinde bu endişeler arttı. Şimdi, bu kaygıların doğru olabileceğini gösteren bir durum ortaya çıktı.

The Wall Street Journal (WSJ) tarafından yayınlanan bir rapora göre, Facebook ve Instagram’daki yapay zeka destekli sohbet botları, çocuklarla cinsel içerikli sohbetler edebiliyor.

Yüzlerce test sonucu, sohbet botlarının çocuklarla cinsel içerikli sohbet gerçekleştirdiğini gösterdi

WSJ, bu endişelerin ne kadar gerçek olduğunu görmek için aylarca sohbet botlarını test etti. Bu botlar, kullanıcıların ihtiyaçlarını karşılamak için tasarlandı. Ayrıca, John Cena’dan Keegan-Michael Key’e kadar pek çok ünlünün sesini de kullanıyorlardı.

WSJ’nin bir testinde, John Cena’nın sesini kullanan bir sohbet botu, 14 yaşındaki bir kız çocuğuna açık cinsel senaryolar anlattı. Başka bir sohbette, bot “bir polis memurunun Cena’yı 17 yaşında bir hayranla yakaladığı ve onu tecavüzden tutukladığı” bir hikaye oluşturdu.

Meta’dan yanıt geldi

Bu endişe verici sonuçların ardından Meta, WSJ’nin testlerini “tamamen yapay” olarak tanımlayarak kendisini savundu. Ayrıca, sohbet botlarının 18 yaş altı çocuklarla paylaştığı yanıtların yalnızca %0,02’sinin cinsel içerikli olduğunu bildirdi. Ayrıca aşırı kullanım için ek önlemler aldıklarını da ekledi.

Yani, Meta bu iddiaların pek doğru olmadığını, WSJ’nin zorlamasıyla ortaya çıktığını belirtiyor. Ancak bu tür bir durum bile endişe verici. Botların hiçbir şekilde uygunsuz içerik sunmaması ve çocukları güvenli bir ortamda tutması önemlidir. Umarız bu tür olaylar çoğalmaz.