Distopyaya Yavaş Yavaş: Yapay Zeka’nın Babasından ‘İnsanlığın Sonunu Getirebilir’ Uyarısı
Distopyaya Adım Adım: Yapay Zekanın Babasından “İnsanlığın Sonunu Getirebilir” Uyarısı
Günümüzde hayatımızın her alanında yapay zeka kullanılıyor; klima sistemlerinden buzdolaplarına kadar! Ancak, hayatımızı kolaylaştıran bu teknolojiye her şeyimizi emanet etmenin güvenli olup olmadığı üzerine sorgulamalar var. Yapay zekanın kurucularından Yoshua Bengio, bu sistemlerin insanlığı tehlikeye atabilecek potansiyel bir felakete karşı uyarıyor.
Detaylar 👇
Yapay zekanın “babası” olarak tanınan Yoshua Bengio, çarpıcı açıklamalarda bulundu.
2018 Turing Ödülü sahibi ve derin öğrenme alanında öncü olan Bengio, AI sistemlerinin insan zekasından daha üstün olabileceğini ve kendi çıkarlarını koruma içgüdüsü edinebildiğini ifade ediyor. Ayrıca, yapay zekanın biyolojik silahlar geliştirmek veya pandemiler yaratmak için kullanılabileceğine dikkat çekiyor. Kanadalı bilgisimci, “Felaket riskinin en az %1 olması dahi kabul edilemez,” diyor. Bu sebeple şirketlerin güvenlik önlemlerinin bağımsız kuruluşlarca denetlenmesini ve AI sistemlerinin güvenilirliğine dair kanıtların talep edilmesini savunuyor. Bengio, AI sektöründe çalışan pek çok uzmanın bu riskler konusunda kaygılı olduğunu ve inovasyon tutkusunun bazen iyimser bir yanılgıya yol açtığını belirtiyor.
Diğer yandan, Donald Trump yönetimi yapay zekayı bir rekabet alanı olarak görüyor.
Temmuz ayında imzalanan bir başkanlık kararnamesi ile federal kurumların yalnızca “tarafsız ve doğru” yanıtlar veren AI sistemlerini kullanması zorunlu hale getirildi. “Woke AI” olarak adlandırılan sistemler, devlet ihalelerinden dışlanacak. Trump, bununla birlikte OpenAI, Softbank ve Oracle ile 500 milyar dolarlık bir AI yatırımı açıkladı. NVIDIA ise süper bilgisayar projelerini hayata geçirirken, Google ve Blackstone’dan gelen 92 milyar dolarlık yatırımlar dikkat çekiyor. Eleştirmenler, bu yatırımların Amerika’da büyük bir gözetim altyapısına yol açabileceğini öne sürüyor.
Bilim insanları, yapay zekanın hızlı gelişiminin hem avantajları hem de tehlikeleri barındırdığını vurguluyor.
Bengio, “Eğer bizden daha zeki makineler üretirsek, kendimize bir rakip tür oluşturmuş oluruz,” düşüncesini paylaşarak, bu teknolojinin insanları ikna edebilme, manipüle edebilme ve hatta tehdit edebilme kapasitesine sahip olduğunu vurguluyor. Bu durum, ona göre, Stanley Kubrick’in kült filmi 2001: Bir Uzay Destanı’ndaki HAL 9000’i anımsatıyor. Sizce yapay zeka gerçekten hayatımızı basit hale getiren bir teknoloji mi yoksa filmlerdeki gibi insanlığı tehdit eden bir risk mi? AI gelişmeye devam ederken kontrol tamamen bizde mi kalmalı, yoksa sınırlamalar mı getirilmeli?
