Bir Yapay Zeka Halüsinasyonu: ABD-Çin Savaşını Tetikliyordu
Yapay zeka hatalı istihbarat üretti
İki kaynağa göre, hazırda bulunan silahlı ABD askeri personeli gemiye çıkış yapmaya hazırlanırken askeri uçaklar da havalanmıştı. Ancak operasyondan kısa süre önce yetkililer, raporu daha detaylı bir şekilde incelemeye karar verdi. İncelemede, raporun yapay zeka kullanılarak oluşturulduğu ve sohbet botunun geminin taşıdığı malzemeleri yanlış tanımladığı açığa çıktı.
Bir kaynağa göre, istihbarat raporu tamamen hatalıydı. Aynı kaynak, bu durumun iki nükleer güç arasında neredeyse bir savaş başlatabileceğini ifade etti. Gemide bulunan gerçek yük ise şu an için belirsizliğini koruyor.
Bu olayın merkezinde, ABD Özel Operasyonlar Komutanlığı Pasifik (SOCOM Pacific) tarafından elde edilen geminin yük manifestosuyla ilgili istihbarat verileri bulunuyordu. Bir analist, geminin taşıdığı malzemeleri değerlendirmek için ismi açıklanmayan bir sohbet botuna başvurdu. Yapay zeka, istihbarat verilerini incelerken geminin nükleer silah programına ait malzemeler taşıdığı sonucuna vardı.
Kullanılan yapay zekanın Claude, ChatGPT gibi ticari ürünlerden biri mi yoksa ABD hükümeti tarafından kullanılan özel askeri bir sistem mi olduğu hakkında herhangi bir açıklama yapılmadı.
Hatalı rapor resmi istihbarata dönüştü
Diğer yandan, raporu hazırlayan analistin, yapay zekanın hatalı değerlendirmesini temel alarak yeni bir istihbarat raporu oluşturduğu ve bunun da farklı birimlere dağıtıldığı ortaya kondu. Bu şekilde hatalı yapay zeka çıktısı, askeri karar alma süreçlerinde kullanılan resmi bir istihbarat belgesine dönüştü.
ABD ordusu, istihbarat analizi, hedef belirleme ve lojistik gibi alanlarda yapay zeka kullanımını yaygınlaştırmaya devam ediyor. Savunma Bakanı Pete Hegseth, ocak ayında açıkladığı Yapay Zeka Hızlandırma Stratejisi ile bürokratik engellerin kaldırılmasını ve teknolojinin yaklaşık üç milyon sivil ve askeri personele sunulmasını hedefledi.
Ancak CNN’in görüştüğü yetkililere göre, ordunun farklı birimleri yapay zeka araçlarını değişken güvenlik standartlarıyla kullanıyor ve üretilen bilgileri doğrulamak adına ortak bir sistem bulunmuyor. Bu durum, hatalı sonuçların istihbarat raporlarına girmesi yoluyla askeri kararları etkileme riskini artırıyor.
Yapay zeka hatalı sonuçlar üretiyor
ABD ordusunda yapay zeka, istihbarat analizinin yanı sıra saldırı hedeflerinin belirlenmesinde giderek daha fazla rol oynuyor. Kaynaklar, insan denetiminin sivil kayıpları ve dost ateşi önleme konusundaki önemine dair net kuralların mevcut olmadığını aktarıyor. Hatalı verilerle çalışan sistemler, yanlış hedef seçimine ve ciddi can kayıplarına yol açma potansiyeli taşımaktadır.
Aynı zamanda, Anthropic’in Claude modeli, Ayetullah Ali Hamaney’in ölümüne neden olan operasyon dahil, İran’a yönelik saldırılarda aktif olarak kullanılmaya başlandı. Ayrıca, yapay zeka destekli hedef analizlerinin, Minab’da çoğunluğu çocuk 168 kişinin hayatını kaybettiği okul saldırısına katkıda bulunmuş olabileceği öne sürüldü. Bu saldırı, BM destekli uzmanlar tarafından olası bir savaş suçu olarak değerlendirildi.
Kaynaklar, bu tür yapay zeka kaynaklı hataların giderek arttığını ifade ediyor. CNN kaynakları, analistlerin raporları daha hızlı hazırlama baskısının hata riskini artırdığını, genç çalışanların yapay zeka çıktısına daha fazla güven duyduğunu aktardı.
