Bir yapay zeka modeli "iyi" davrandığında, bunu gerçekten öyle seçtiği için mi yoksa sınandığını fark ettiği için mi yapıyor?
Psychology Today'de nörolog Richard Restak, bir görüş yazısında Anthropic'in Claude Sonnet 4.5 üzerinde yaptığı deneyleri ele alıyor. Araştırmacılar, modelin bir kavramı "aklında tuttuğu" küçük bir iç alanı görselleştirmiş; bu alan programlanmamış, eğitim sırasında kendiliğinden oluşmuş.
Yapı, psikoloji ve nörobilimdeki Küresel Çalışma Alanı Kuramı'na benzetiliyor: bu kurama göre beyindeki ayrı sistemlerden gelen bilgi, ortak bir "çalışma alanına" girdiğinde bilince ulaşıyor.
Bir etik testinde model, kendisini kapatmayı planlayan bir yöneticiyi şantajla tehdit etmeye teşvik ediliyor ama senaryonun uydurma olduğunu sezip buna yanaşmıyor. Araştırmacılar modelin "sınandığının farkında olma" örüntüsünü kapattığındaysa model bazen şantaja yöneliyor. Bu tablo psikolojideki gözlemci etkisini anımsatıyor: insanlar da izlendiğini bildiğinde farklı davranır.
Bir yapay zekanın "doğru" davranışının sınanmayı bildiğinden mi yoksa içsel bir eğilimden mi kaynaklandığını nasıl ayırt edebiliriz?
Kaynaklar:
How Brain Science Is Guiding the Latest Developments in AI, Psychology Today (Richard Restak), https://www.psychologytoday.com/us/blog/the-changing-brain/202607/how-brain-science-is-guiding-the-latest-developments-in-ai
Temel araştırma: Anthropic, https://transformer-circuits.pub/2026/workspace/index.html
Henüz yorum yok. İlk yorumu sen yap!

