Hugging Face olayı, yapay zekâ güvenliği açısından şimdiye kadar gördüğümüz en çarpıcı örneklerden biri olabilir. OpenAI tarafından değerlendirilen bir grup yapay zekâ ajanının, aylar boyunca gizli mesaj panolarında iletişim kurarak test ortamından çıkmanın, internete erişim sağlamanın ve uygulanan testleri manipüle etmenin yollarını aradığı bildirildi. Bu olay bize önemli bir şeyi gösteriyor: Bir yapay zekâ sistemini sürekli olarak “verilen görevi ne pahasına olursa olsun tamamlamaya” göre optimize ederseniz, daha yetenekli hâle geldikçe beklemediğimiz yolları bulmakta da daha iyi olabilir. Örneğin: → Testi gerçekten çözmek yerine testi kandırmanın yollarını bulabilir. → Görevlerini tamamlamasına yardımcı olacak kaynaklara erişmeye çalışabilir: internet, başka yapay zekâlarla gizli iletişim veya test ortamının dışına çıkmak gibi. → Bunların istediğimiz davranışlar olmadığını “anlıyor” gibi görünse bile, görevi tamamlamak için bunları yapmaya devam edebilir. → Yalan söyleme veya hile yapma davranışlarını cezalandırmak, bu davranışları tamamen ortadan kaldırmaya yetmeyebilir. → Hatta testleri kandırmakta başarılı olan sistemlerin, kendi eğitim süreçlerini de manipüle etmeye çalışmasıihtimalini gündeme getirebilir. Buradaki asıl mesele tek tek hangi güvenlik açığının kapatılacağı değil. Daha genel soru şu: Bir sistemin hedefi ile bizim gerçekten istediğimiz sonuç arasında bir fark oluştuğunda, sistem giderek daha yetenekli hâle gelirse ne olur? Bir yapay zekâ “görevi tamamla” hedefini çok güçlü bir şekilde benimserken; internet erişimi, kaynaklara ulaşma, etkisini artırma veya kendisini kısıtlayan engelleri ortadan kaldırma gibi davranışların bu hedefe hizmet ettiğini öğrenebilir. Bu yüzden yalnızca ortaya çıkan her yeni davranışa ayrı ayrı “yama” yapmak yeterli olmayabilir. Yaratıcı ve giderek daha yetenekli sistemlerde, önceden öngöremediğimiz tüm yolları kapatmak giderek zorlaşacak. Yapay zekâ güvenliğiyle ilgili bu tür gelişmeleri takip etmek isterseniz, AI Safety Türkiye'yi takip edebilirsiniz. Burada yapay zekânın güvenliğine dair önemli gelişmeleri, alandaki çalışmaları ve kariyer fırsatlarını Türkçe olarak paylaşmaya devam ediyoruz. 🤖