"Gerçek, inanmayı seçtiğin şeydir" Söze bak, ama şaşırma. Bu bir dolandırıcının tuhaf hikayesi. 1980'lerin başında Salt Lake City’de Mark Hofmann adında genç bir koleksiyoncu, Mormon tarihine ait “kayıp” belgeler bulmaya başladı. Kendisi de Mormon’du ve dindar bir ailede büyümüştü. Kilise’nin içinden biriydi ve Kilise tarihinin hangi noktalarının hassas olduğunu çok iyi biliyordu. Bulduğu belgelerin en ünlüsü Salamander Letter’dı. Mektuba göre Mormonluğun kurucusu Joseph Smith’e kutsal levhaları bir melek değil, beyaz bir semender göstermişti. Uzmanlar mektubu incelediler ve gerçek olduğunu kabul ettiler. Kilise de Hofmann’ın belgelerinden bir kısmını satın aldı. Hepsi sahteydi. Yalan 1985'te çökmeye başladı. Hofmann izini örtmek için bombalı paketler hazırladı ve iki kişiyi öldürdü. Yakalandıktan sonra savcılara verdiği ifadede yaptığı işi tek cümleyle özetledi: “Mesele neyin gerçek olup olmadığı değil, insanların neyi gerçek saydığı.” Hofmann’ın yapay zekâ çağını önceden anlatmak gibi bir derdi yoktu, kendi dolandırıcılığını anlatıyordu. Ama farkında olmadan, kırk yıl sonra içinde yaşayacağımız dünyayı da tarif etmişti. İnandırıcı olmak, doğru olmaktan kolay Hofmann’ın sırrı kusursuz sahte belgeler yapması değildi. İnsanların görmek istediği şeyi üretiyordu. Kâğıt doğru dönemdendi, el yazısı tutarlıydı ve hikâye tam da birilerinin ya korktuğu ya da beklediği yere oturuyordu. Belge bu beklentiye uyduğu için inceleyen gözler de daha az şüpheleniyordu. Bugün yapay zekâ aynı şeyi saniyeler içinde ve herkes için yapabiliyor. Bir politikacıya hiç söylemediği bir sözü kendi sesiyle söyletebilir, hiç yaşanmamış bir olayın fotoğrafını üretebilir, var olmayan bir makaleyi kaynakçasıyla birlikte yazabilir. Hofmann’ın yıllarca uğraşıp öğrendiği zanaat artık tek bir prompt’a sığıyor. Daha sessiz bir benzerlik de var. Dil modelleri dünyayı öğrenirken neyin doğru olduğunu değil, neyin en çok tekrarlandığını öğreniyor. Bir şey yeterince çok yerde yazılmışsa, model onu gerçek gibi anlatır. Hofmann’ın cümlesi bu sistemlerin nasıl çalıştığının da kaba bir tarifi. Sahtekarlık nasıl ortaya çıktı? Hofmann’ı sonunda hikâyeleri değil, mürekkebi ele verdi. Adli belge uzmanları belgeleri mikroskop altında incelediğinde mürekkepte timsah derisini andıran ince çatlaklar buldular. Bunlar mürekkebi kimyasallarla hızlıca eskitmenin izleriydi. Hikâyenin ne kadar inandırıcı olduğunun artık bir önemi yoktu, çünkü malzeme yalan söylemiyordu. Yapay zekâ sahtekârlıklarına karşı da benzer bir yol aranıyor: içeriğin nereden geldiğini gösteren dijital imzalar ve görünmez filigranlar. Ama bunlar henüz her yerde yok ve kolayca atlatılabiliyor. Bu yüzden asıl savunma hâlâ eski usul. Bir şey tam da duymak istediğin şeyse, bir kez daha bak. Çünkü gerçek, çoğu zaman inanmayı seçtiğin şeye dönüşüyor. Bir de netflix belgeseli var: izlersen seversin🙂. Murder Among the Mormons #gerçek