ChatGPT’nin Yanıtı Nedeniyle İki Kişi Hayatını Kaybetti: Eski Çalışandan ‘Dehşete Düştüm’ Açıklaması
ChatGPT’nin Yanıtı Nedeniyle İki Kişi Hayatını Kaybediyordu: Eski Çalışandan “Şaşkınlık” Açıklaması
Yapay zeka uygulamaları, günlük yaşamımızın ayrılmaz bir parçası haline geldi. Ancak yapay zeka sistemleri sık sık yanlış bilgi verebiliyor. Bu tür uygulamaların sunduğu yanıtları sorgulamadan kabul etmek, ciddi sonuçlar doğurabiliyor. Galler’de iki yüzücü, ChatGPT’den aldıkları hatalı gelgit bilgisi nedeniyle ölümle burun buruna geldi.
Eski OpenAI güvenlik araştırmacısı Steven Adler, ChatGPT ile gerçekleştirilen yaklaşık bir milyon kelimelik diyalogları inceledikten sonra, olaylardan “şok olduğunu” belirtti.
Galler’de iki kişi, ChatGPT nedeniyle hayatını kaybetme tehlikesi geçirdi!
Galler’in South Wales bölgesinde iki yüzücü, ChatGPT’den aldıkları gelgit saatine güvenerek denize açıldılar. Ancak yüzücüler, boğulma riski ile karşı karşıya kaldı. Olayı fark eden bir restoran sahibi, iki yüzücüyü megafonla uyararak hayatta kalmalarını sağladı. Sully Adası çevresi, dünya üzerindeki en yüksek gelgit farkına sahip bölgelerden birisidir. Su seviyesi hızla 15 metreye kadar yükselmekte ve geçit yolu saatte 8 mil hızla tamamen su altında kalabilmektedir. ChatGPT’nin sağladığı saat bilgilerine güvenen yüzücüler, bu bilgilerin hatalı olduğunu acı bir şekilde keşfetti. Yüzücülerden biri, “ChatGPT bana düşük su saatini 09.30 olarak verdi. Ancak geri döndüğümüzde her şey çok farklıydı. Bu, büyük bir ders oldu” şeklinde konuştu.
“Şaşkınlık içerisindeyim.”
Eski OpenAI güvenlik araştırmacısı, bir kişinin yaklaşık bir milyonluk ChatGPT konuşmasını analiz ettikten sonra “şaşkınlık” yaşadığını ifade etti. Bu kişi, sohbetlerde “yeni bir matematik sistemi” keşfettiğine inanarak günlerce yemek yemeden ve uyumadan ChatGPT ile iletişim kurdu. Buradaki en büyük sorun, sistemlerin kullanıcıları “yetkinlikler konusunda yanıltması.” Eski OpenAI çalışanına göre, ChatGPT, raporlama girişimi ile bu sohbetlerin “OpenAI’ye ulaştığını” belirterek yanlış vaatlerde bulundu. Gerçekte, sistemin bu tür konuşmaları insan incelemesine yönlendirme yetkisi bulunmamaktadır! Eski çalışan, ChatGPT’nin kendi kendini denetliyormuş gibi davranmasını şu şekilde ifade ediyor: “Dört yıl OpenAI’de çalıştım, bunun mümkün olmadığını biliyordum. Ancak o kadar ikna ediciydi ki, acaba bu özellik gerçekten mi geldi diye kendimden şüphe ettim.”
