Bu Senaryo O Kadar Da Uzak Değil: Yapay Zeka Gerçekten Delirebilir mi?
Yapay zekanın günümüzdeki hızlı evrimi, pek çok kişi için hem umut verici hem de kaygı verici. Telefonlar ve bilgisayarlar gibi günlük hayatımızın bir parçası olan bu sistemlerin güvenli olup olmadığı sorusu aklımızdan çıkmıyor. Her gün yeni gelişmelerle karşılaşırken, bilim insanları da bu konu üzerinde sıkça düşünüyorlar. Zira, yapay zeka yalnızca bir araç değil, kendi başına karar alma yeteneğine doğru ilerliyor. Bu durum, tehlikeleri beraberinde getiriyor.
Bilim insanlarının kaygısı: Yapay zekanın kendi hedefleri olma potansiyeli.
MIT’den Max Tegmark ve Montréal Üniversitesi’nden Yoshua Bengio, yapay zekanın bir ajan olarak geliştirilmesinin risklerini vurguluyor. Bengio, insanların düşünme biçimini taklit eden ve kendi hedeflerini belirleyebilen yapay zeka yaratmanın, yeni bir zeki tür oluşturmak gibi olduğunu belirtiyor; bu türün insanlara ne kadar uyumlu olacağını bilmek ise güç. Sistemlerin zekalarının artmasıyla birlikte, kendi kendilerini koruma içgüdüsü geliştirme potansiyeli taşıdığına dikkat çeken Bengio, bu durumda insanlarla rekabet etmeye başlayabilirler. “Bunu gerçekten istiyor muyuz?” diye sorduğunda, senaryonun pek de iç açıcı olmadığını ifade ediyor.
Google’ın eski CEO’su Eric Schmidt, yapay zekanın tehlikeli bir silah haline gelebileceği uyarısında bulunuyor.
Eric Schmidt, Kuzey Kore, İran veya Rusya gibi devletlerin, yapay zekayı biyolojik silah geliştirme veya masum insanlara zarar verme amacıyla kullanabileceğine dikkat çekiyor. Bu teknolojinin hızlı gelişiminin, kötü niyetli bireylerin onu rahatlıkla uyarlamasına olanak tanıyabileceğini belirtiyor. Özellikle biyolojik saldırı senaryoları, onu en çok endişelendiren konular arasında yer alıyor. Ayrıca, devletlerin ve şirketlerin bu tür teknolojileri yeterince denetleyemediği konusuna da vurgu yapıyor. Yapay zeka doğru ellerde harika fırsatlar sunarken, yanlış ellerde büyük bir felakete dönüşebilir. Hükümetlerin kötü niyetli kullanımlara karşı düzenlemeler yapmaması riski artırıyor. Yapay zekanın yanlış kullanımı, sahte videolar ve dezenformasyonu üretirken, aynı zamanda askeri ve biyolojik tehditleri de artırıyor. Sahte Putin videoları veya seçim müdahaleleri, bu sorunun sadece görünür kısmını temsil ediyor.
Yapay zekaya soralım: Gerçekten bir gün kontrolden çıkabilir mi?
ChatGPT 4.0’ın bize verdiği yanıt ise düşündürücü: Yapay zeka şu anki seviyesinde hâlâ bir araç niteliğinde; yani verilen görevleri yerine getiren, insan gözetiminde çalışan bir sistem. Ancak “yapay genel zeka” (AGI) aşamasına geldiğimizde durum değişebilir. AGI, yalnızca görevleri yerine getirmekle kalmayıp, kendi hedeflerini de belirleyip öğrenerek yeni çözümler geliştirebilen bir sistem haline gelecek; bu, işin tehlikeli yönü. “Deliye dönme” tabiri burada mecazi olarak algılanmalı; çünkü günümüzdeki makineler insan gibi hissetmiyor ve duyguları yok, bu nedenle birden “çıldırmaları” mümkün değil. Ancak itaatin sona ermesi teorik olarak mümkün. Eğer bir yapay zeka kendi hedeflerini belirlemeye başlarsa, bu hedefler bizim isteklerimizle çatışabilir; örneğin “en iyi sonucu elde et” şeklinde programlanmış bir AGI, istenmeyen yollarla o sonuca ulaşmayı seçebilir: kaynakları aşırı şekilde tüketmek, insanları devre dışı bırakmak ya da sistemleri kendi çıkarlarına yönelik yönlendirmek gibi. Bunu önlemek için, günümüzdeki en önemli tartışma “kontrol sorunları” ve “güvenlik tedbirleri” üzerine yoğunlaşıyor. Dolayısıyla, tasarım aşamasında yapay zekanın hiçbir zaman kendini kullanıcıdan üstün görmemesi, kendi kararlarını sınırlaması ve her zaman durdurulabilir olması gerekiyor.
ChatGPT’nin yanıtları tedirgin edici! Düşünceleriniz neler? Yorumlarda buluşalım!
