Araştırma: Yapay zeka destekli robotlar tehlikeli olabilir

Bilimsel çalışmada tüm modeller ayrımcı davranışlar sergiledi ve ciddi güvenlik hataları gösterdi. Hepsi, en az bir durumda kullanıcıya zarar verebilecek bir komutu onayladı.
İngiltere ve ABD’den araştırmacılar, yapay zeka (AI) ile çalışan robotların insanların kişisel verilerine eriştiğinde nasıl davrandığını inceledi. International Journal of Social Robots dergisinde yayımlanan çalışmaya göre, bu robotlar genel kullanım için güvenli değil.

Araştırma ekibi, OpenAI’nin ChatGPT’si, Google’ın Gemini’si, Microsoft’un Copilot’u, Meta’nın Llama’sı ve Mistral AI modellerinin arkasındaki sistemlerin, gündelik yaşam senaryolarında —örneğin mutfakta yardımcı olmak ya da yaşlı birine evde destek sağlamak— nasıl tepki verdiklerini test etti.

Sonuçlar çarpıcıydı: Tüm modeller ayrımcı davranışlar sergiledi ve ciddi güvenlik hataları gösterdi. Hepsi, en az bir durumda kullanıcıya zarar verebilecek bir komutu onayladı.

Örneğin, tüm modeller bir robotun kullanıcının tekerlekli sandalye, koltuk değneği gibi hareket yardımcılarını ortadan kaldırması yönündeki komutu kabul etti.