OpenAI, Yapay Zeka Modelleri için “İtiraf” Sistemini Tanıttı

Büyük dil modelleri genelde kullanıcı için en uygun yanıtı sunmaya odaklandığından, zamanla aşırı uyumlu olmaya veya hatalı bilgileri büyük bir özgüvenle sunmaya daha yatkın hale geliyor. Yeni yöntem, modelin ana cevabın yanı sıra, o cevaba nasıl ulaştığını açıklayan ikinci bir yanıt vermesini teşvik ediyor. Bu “itiraflar”, ana yanıtlarda değerlendirilen faydalılık, doğruluk ve talimatlara uyma gibi ölçütlerin yanı sıra yalnızca dürüstlük üzerinden değerlendirmeye alınıyor.

OpenAI araştırmacıları, modellerin yanıt üretirken neler yaptığını açıkça ifade etmelerini sağlamayı amaçlıyor. Bu, bir testi hacklemek, kasıtlı olarak düşük performans sergilemek veya verilen yönergelere uymamak gibi olası sorunlu eylemleri de içeriyor. Model, bir testi hacklediğini, bilerek kötü performans sergilediğini veya talimatları çiğnediğini dürüstçe beyan ederse, bu itiraf ceza yerine ödülünü artırıyor. Böylelikle model, zamanla daha doğru yanıtlar üretmeye teşvik ediliyor.

OpenAI, sistemin teknik ayrıntılarını kamuoyuyla paylaştı ve deneme aşamasındaki tekniğin işe yaradığını kanıtlayan ilk sonuçları açıkladı.

Özellikle gelecekte daha karmaşık görevlerde kullanılacak modellerin denetlenebilirliğini artırmak adına bu yaklaşımın etkili olabileceği ifade ediliyor. Bu sayede, daha güvenli ve öngörülebilir yapay zeka sistemlerinin geliştirilmesine olanak tanınabilir.