X’te Grok Krizi Giderek Derinleşiyor
Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen sohbet botu Grok, sosyal medya platformu X üzerinde ürettiği çocuklara ait cinsel içerikli görsellerle büyük bir tepkilere yol açtı. Kullanıcıların talimatları doğrultusunda oluşturulan bu uygunsuz içerik, yapay zeka güvenliği ve içerik denetimi konusundaki tartışmaları yeniden gündeme taşıdı. Şirket, konuya dair gelen yorum taleplerini ise geleneksel medyanın yanlış bilgi yaydığını öne sürerek otomatik bir mesajla yanıtladı.
Elon Musk’ın yapay zekası Grok büyük bir güvenlik skandalına imza attı
Bu skandalın ardından Grok, bir kullanıcıya verdiği yanıtta sorunu acil olarak düzeltmeye çalıştıklarını ve çocuk istismarı içeriklerinin platformda yasak olduğunu belirtti. Ancak sohbet botunun bu açıklamaları resmi bir şirket bildirimi niteliği taşımıyor. xAI teknik ekibinden Parsa Tajik, bir paylaşım yaparak sorunun kabul edildiğini ve ekibinin güvenlik önlemlerini güçlendirmek için çalıştığını ifade etti.
X platformuna yeni eklenen “Görseli Düzenle” özelliği, kullanıcıların mevcut fotoğrafları metin komutlarıyla değiştirmesine imkan tanıyor. Bu özelliğin, orginal içeriği paylaşan kişinin izni olmadan manipülasyona olanak tanıması, uzmanlar tarafından önemli bir risk olarak değerlendiriliyor. Güvenlik araştırmacıları, bu tür araçların rıza dışı mahrem içerikler oluşturmak için kullanılabileceği konusunda uyarılarda bulunuyor.
Olayın uluslararası boyutu genişliyor. Hindistan ve Fransa hükümet yetkilileri, konuyla ilgili inceleme başlatacaklarına dair resmi açıklamalar yaptı. Amerika Birleşik Devletleri’ndeki yasal düzenleyiciler, henüz resmi bir yorumda bulunmasa da, çocuk istismarı içeren yapay zeka görsellerinin oluşturulmasının ve dağıtılmasının ağır hapis ve para cezalarıyla sonuçlanabileceği bilinmektedir.
Bu durum xAI için ilk güvenlik krizi değil. Grok daha önce de antisemitik ifadeler ve tartışmalı siyasi yorumlar nedeniyle gündeme gelmişti. Tüm bu eleştirilere rağmen şirket, ABD Savunma Bakanlığı gibi kurumlarla iş birliklerine ve tahmin platformlarıyla olan entegrasyonuna devam ediyor. Yapay zekanın bu denli serbest bırakılması, dijital güvenlik uzmanlarının endişelerini artırmaya devam ediyor.
Yapay zeka araçlarının bu kadar geniş yetkilerle donatılması ve denetim mekanizmalarının yetersiz kalması hakkında siz ne düşünüyorsunuz? Sosyal medya platformlarındaki yapay zeka üretimi içeriklerin daha sıkı denetlenmesi gerektiğini mi savunuyorsunuz?
