Yapay Zeka Sektöründeki Çalışanlardan Şaşırtıcı Uyarı: “Evimde Yerlisi Yok”
Yapay Zeka Endüstrisinde Uzmanlardan Şaşırtıcı Uyarı: “Benim Evimde Yeri Yok”
Yapay zeka, gündelik yaşamda giderek daha büyük bir rol oynamaya başladı. Ancak bu alandaki uzmanların yaptığı uyarılar dikkat çekici. Sektördeki pek çok profesyonel, gördükleri riskler nedeniyle ailelerine ve sevdiklerine yapay zekadan uzak durmalarını öneriyor. Şirketlerin hız baskısı, yetersiz denetim ve hatalı sonuçlar gibi meseleler, teknoloji geliştiricilerinin bile kendi evlerinde bu sistemleri kullanmamalarını gündeme getiriyor.
Kaynak: Independent
Yapay zeka hızla hayatın her alanında yaygınlaşırken, bu teknolojiyi en yakından tanıyan sektör çalışanları, çevrelerini ciddiyetle uyarıyor.
Guardian’ın haberine göre birçok uzman, ailelerine ve arkadaşlarına yapay zekadan uzak durmalarını öneriyor. Bunun nedeni, bu teknolojinin risklerini en iyi onların bilmesi.
Sektördeki çalışanların ortak görüşü, şirketlerin “hız ve ölçek” odaklı yarışlarının güvenlik endişelerini arka plana attığı yönünde.
Acelesi olan süreçler, kalitesiz eğitim verileri ve denetim eksikliği; hatalı, yanlı veya tehlikeli sonuçlar doğuruyor. Amazon’un Mechanical Turk platformu ve Google’ın kalite değerlendirme birimlerinde çalışanlar, modellerin sıkça “halüsinasyon” olarak adlandırılan yanlış bilgi üretme sorununa işaret ediyor. Özellikle politik ve tarihi konularda hatalı yanıtların yaygınlaşması dikkat çekiyor.
Google’da çalışan bir uzman, kimliğini korumak şartıyla, 10 yaşındaki kızının yapay zeka tabanlı sohbet botlarına erişimine izin vermediğini aktarıyor.
Bu kararının arkasındaki sebep, çocuğunun önce eleştirel düşünmeyi öğrenmesi gerektiği; aksi halde modelin sunduğu bilginin doğruluğunu değerlendiremeyeceğini ifade ediyor.
Google’da içerik değerlendiren başka bir çalışan, İsrail’e yönelik kapsamlı yanıtlar alınırken, Filistin konusundaki soruların sürekli olarak başarısız olduğunu bildiriyor.
Durumu bildirmelerine rağmen, şirket içinde bu tutarsızlıkla ilgili herhangi bir ilginin gösterilmediğini belirtiyor. MTurk çalışanı Krista Pawloski, yıllarca sistemin işleyişini gözlemlemiş biri olarak, sosyal medya içeriklerinde ırkçı paylaşımların tespit edilmesi gibi sorumluluklar aldığını; yapay zeka modellerinin birçok zararlı içeriği gözden kaçırdığını aktarıyor. Bu deneyimlerden sonra üretken yapay zekayı tamamen hayatından çıkardığını ve ailesine de bu tür sistemleri kullanmamaları için uyarıda bulunduğunu vurguluyor. Hatta kızının ChatGPT gibi platformlara erişmesine “evde asla izin vermediğini” belirtiyor. Yapay zeka sistemleri üzerine çalışan Distributed AI Research Institute’tan Adio Dinika, bu teknolojilerin nasıl aceleyle geliştirdiğini ve hangi tavizlerle ortaya çıktığını gözlemledikçe “fütüristik bir mucize” imajının kaybolduğunu ifade ediyor. Ona göre, yapay zekayı en çok idealize eden kişiler, gerçekte onu en az anlayanlardır.
