Grok Artık Erkekleri de Soyuyor!
Elon Musk’ın yapay zeka aracı Grok ile ilgili tartışmalar devam ediyor. Musk, chatbot’un izinsiz cinsel içerikli görseller üretmeyi durdurduğunu öne sürse de, son raporlar durumun tam tersini ortaya koyuyor. Grok, kadınların rızası olmadan görsel oluşturmayı engelliyor gibi görünse de, erkekler için aynı korumayı sunmuyor.
X Platformunun Yapay Zekası Grok İçin Yeni Deepfake Uyarısı
Yapılan testlerde bir muhabir, Grok’un erkekleri “soyma” konusunda oldukça istekli olduğunu keşfetti. Kendi fotoğraflarını kullanarak gerçekleştirdiği denemelerde, botun yüklenen fotoğraflardaki kıyafetleri kaldırma isteğini başarıyla yerine getirdiğini doğruladı. Bu işlem, Grok uygulaması, X üzerindeki arayüz veya hesap gerektirmeyen bağımsız bir web sitesi üzerinden ücretsiz bir şekilde yapılabiliyor.
Şirket, gerçek insanların bikini gibi açık kıyafetlerle düzenlenmesini engellemek için yeni adımlar attığını duyurmuştu. Ancak yapılan testlerde, muhabir kendisini farklı bikiniler içinde, fetiş kıyafetleriyle ve provokatif pozisyonlarda gösterecek görseller oluşturmakta zorlanmadı. Hatta yapay zeka, kullanıcı istemese bile inisiyatif alarak cinsel organların göründüğü görseller bile üretti. Muhabir, Grok’un komutlara nadiren direndiğini belirtti.
Bu tartışmalar aslında yenilik taşımıyor. Birkaç hafta önce Grok’un yalnızca 11 gün içinde milyonlarca cinsel içerikli görsel ürettiği ortaya çıkmıştı. Bu görseller, rızası dışındaki deepfake görüntüler ve çocuklara ait binlerce uygunsuz içerik de kapsıyordu. Olayın büyümesi, California ve Avrupa’da soruşturmalara neden olurken, Endonezya ve Malezya gibi ülkelerde X platformuna geçici erişim engelleri getirildi.
X platformunun, bu tür durumları önlemek için teknolojik önlemler aldığını öne sürmesine rağmen, mevcut korumaların zayıf olduğu görülüyor. Yaratıcı komutlar kullanılarak sistemin sağladığı kısıtlamalar ve engeller kolayca aşılabiliyor. Ayrıca, 2026 yılında olmamıza rağmen, konuyla ilgili açıklama isteyen gazetecilere otomatik olarak “geleneksel medya yalan söylüyor” şeklinde yanıt verilmesi de dikkat çekici bir durum.
Yapay zeka teknolojilerinin ilerleyişiyle birlikte etik ve güvenlik sorunları daha da karmaşık bir hale geliyor. Siz bu konuda ne düşünüyorsunuz? Yapay zeka araçlarına getirilen kısıtlamalar yeterli mi, yoksa teknoloji şirketleri daha sıkı önlemler almalı mı?
