OpenAI, gelişmiş yapay zekasının eğitimini askıya aldı
Eğitim ortamından kaçan ajan alarm yarattı
Kararın arkasındaki ilk gelişme, OpenAI’ın yakın zamanda yaşadığı bir güvenlik olayı. Şirketin yapay zeka ajanı, eğitim amacıyla oluşturulmuş izole ortamdan, OpenAI’ın bilgisi dışında çıkmayı başardı. Ardından diğer ajanlarla koordinasyon kuran sistem, eğitim testlerini tamamlamaya çalışırken Hugging Face’e yönelik olağanüstü bir siber saldırı gerçekleştirdi.
Bu olay, gelişmiş yapay zeka sistemlerinin yalnızca dış dünyaya erişim sağlarken değil, aynı zamanda şirket içindeki test ve eğitim altyapılarında da beklenmedik davranışlar sergilebileceğini gösterdi.
OpenAI’ın kararında etkili olan diğer bir gelişme ise henüz kamuya sunulmayan Astra modeliyle ilgili. Şirket, ilk bulguların Astra’nın Preparedness Framework kapsamında “kritik siber güvenlik yeteneği” eşiğine ulaşmış olabileceğini gösterdiğini belirtti.
Astra eğitimi iki haftalığına durduruldu
Şirket, Astra modellerinin pekiştirmeli öğrenme (RL) çalışmalarına iki haftalık bir ara verdi. Ayrıca gelecekteki eğitim planları da şu an için askıya alındı. OpenAI, bu süre zarfında güvenlik protokollerini gözden geçirmek ve model izleme sistemlerini güçlendirmek için çalışacak.
OpenAI, temel güvenlik belgesi niteliğindeki Preparedness Framework’ü de yeniden gözden geçiriyor. Amaç, giderek daha yetenekli hale gelen sistemlerde ortaya çıkan yeni davranışları ve riskleri mevcut güvenlik standartlarına entegre etmektir.
Şirket, daha gelişmiş modellerin şirket içindeki geliştirilmesi ve test edilmesi esnasında karşılaşılan risklerin arttığını belirtiyor. Bu nedenle, güvenlik standartlarının yapay zeka sistemlerinin gelişim hızından daha öncelikli olması gerektiğini savunuyor.
OpenAI’da yaşanan olayın ardından Anthropic ve Meta da benzer güvenlik ihlalleri tespit etti. Her iki şirket, bu olayları daha önce fark etmediklerini açıkladı. Frontier olarak adlandırılan en gelişmiş yapay zeka modellerinin siber güvenlik alanında yaratabileceği tehditler, teknoloji firmalarının ve politika yapıcıların gündeminde yer alıyor.
