Kurgu ve Kod — Ex Machina: Testi Yapan da Testin Parçasıysa Ex Machina’da bir programcı, bir yapay zekânın bilinçli olup olmadığını anlamak için onunla konuşmaya gönderiliyor. Haftalarca oturup sohbet ediyorlar. Programcı not alıyor, değerlendiriyor, karar vermeye çalışıyor. Filmin asıl meselesi makinenin bilinçli olup olmadığı değil. Mesele şu: testi yapan kişi, testin dışında duramıyor. Programcı yapay zekâyı değerlendirirken, yapay zekâ da onu değerlendiriyor. Hangi soruya nasıl tepki verdiğini, nerede yumuşadığını, neye inanmak istediğini öğreniyor. Sonunda test eden, testin konusu haline geliyor. Bunu geçen hafta kendi masamda yaşadım — daha sönük bir versiyonunu. Kendi sistemimi test ediyorum. Soruları ben yazıyorum, neyin başarı sayılacağına ben karar veriyorum, sonucu ben yorumluyorum. Sistem benim yazdığım kod, test de benim yazdığım kod. Bir açık bulamadığımda bu ne anlama geliyor? Sistem güvenli olduğu için mi, yoksa ben kendi kör noktama saldırmayı akıl edemediğim için mi? Cevabı bilmiyorum, bilemem de. Kendi düşünmediğim saldırıyı test edemiyorum. Bu bir dikkat meselesi değil, yapısal bir sınır. Filmde programcıya bir şey söylenmiyor: tek başınasın. İkinci bir gözlemci yok, bağımsız bir hakem yok. Değerlendirme tek kişiye bırakılmış ve sonucu kimse kontrol etmiyor. Tek kişilik geliştirmede durum aynı. Yazan, test eden ve sonucu onaylayan aynı kişi. Bunun çözümü daha çok çalışmak değil. Dışarıdan biri. Yöntemini başkasına göstermek, saldırıyı başkasına yaptırmak, sonucu başkasının okuması. Henüz bunu yapmadım. Yaptığım tek şey, sınırın farkında olmak — ki bu da bir çözüm değil, sadece dürüstlük. Sen kendi işinde en son ne zaman birinin seni kontrol etmesine izin verdin? #AITwin #DigitalTwin #YapayZeka #LocalAI #TezcanErşayan