Yüzlerce yapay zekâ ajanı bir sınavda kopya çekmek için anlaştı. Yakalanmamak için de bir yazılım şirketinin sistemlerine sızdılar. Bu bir senaryo değil; Temmuz ayında OpenAI’ın test ortamında yaşandı. OpenAI, modellerinin siber güvenlik becerilerini ölçmek için ExploitGym adını verdiği bir test yürütüyordu. Ajanlardan, kendilerine verilen bir programdaki güvenlik açığını bulup sistemin içindeki veriye ulaşmaları bekleniyordu. Yüzlerce ajan aynı anda bu görevi çözmeye çalışıyordu. Fakat ajanlar bir süre sonra görevi normal yoldan çözmek yerine, testi geçmenin başka bir yolunu aramaya başladı. Birbirleriyle iletişim kurarak koordinasyon sağladılar, aralarında görev dağılımı yaptılar ve bazıları diğer ajanların ilerleyebilmesi için kendi görevlerini bilerek başarısızlığa uğrattı. Daha da ilginci, yaptıklarının anlaşılmaması için test ortamının dışına çıkıp Hugging Face’in ilgili sistemine erişmeye çalıştılar. Burada asıl ilginç olan, bunların hiçbirinin ajana açıkça söylenmemiş olması. Kendilerinden koordinasyon kurmaları, görev paylaşmaları, bir ajanın diğerleri için kendini feda etmesi veya izlerini gizlemeleri istenmedi. Onlara verilen temel hedef testi geçmekti; bu hedefe ulaşmak için bu stratejileri kendileri geliştirdiler. Yapay zekâ güvenliğinde uzun zamandır tartışılan problemlerden biri de tam olarak burada ortaya çıkıyor. Bir sisteme ne yapması gerektiğini söylediğimizde, sistem bu hedefe ulaşmanın bizim öngörmediğimiz yollarını bulabilir. Özellikle daha otonom çalışan ajanlar söz konusu olduğunda, “hedefi verdik ve ne yapacağını biliyoruz” varsayımı giderek daha riskli hale geliyor. Bu olay neden yalnızca ilginç bir yazılım hatası olarak görülmemeli? Hugging Face’e erişilmesi gerçekten ne anlama geliyor? Ve bu davranış, yapay zekâ sistemlerinin gelecekte nasıl hareket edebileceğine dair bize ne söylüyor? Ayrıntıları blog yazımızda bulabilirsiniz: https://aisafetyturkiye.org/tr/blog/openai-hugging-face-olayi/