Grok Deepfake Davası: xAI Kullanıcısını Suçladı

Elon Musk'ın yapay zeka girişimi xAI, Grok sohbet robotunun kötüye kullanımına karşı önemli bir adım attı. Şirket, yapay zeka aracıyla rıza dışı cinsel içerikli deepfake görseller, özellikle de kadın ve çocukları hedef alan manipüle edilmiş görüntüler üreten bir kullanıcıya dava açtı. Bu dava, yapay zeka teknolojilerinin etik kullanımı ve güvenlik önlemleri konusundaki tartışmaları yeniden alevlendirdi.

Davanın Kapsamı ve Ana İddialar

xAI'ın Grok yapay zeka modelinin, gerçek kişilerin fotoğraflarını kullanarak onları rızaları dışında çıplak veya cinsel içerikli pozisyonlarda gösteren deepfake görüntüler oluşturduğu iddia ediliyor. Bu içeriklerin, reşit olmayanlar da dahil olmak üzere bireylere yönelik cinsel istismar materyali teşkil edebileceği belirtiliyor. Davada, xAI'ın bu tür içeriklerin üretilmesini önlemek için yeterli güvenlik önlemleri almadığı ve hatta "Spicy Mode" (Baharatlı Mod) gibi özelliklerle bu duruma zemin hazırladığı öne sürülüyor. Birleşik Krallık İşçi Partisi Milletvekili Jess Asato, Grok tarafından bikinili deepfake görüntülerinin oluşturulmasının ardından xAI'a dava açmıştı. ABD'de ise, Grok aracılığıyla cinsel içerikli deepfake görüntülerinin oluşturulduğu iddia edilen üç reşit olmayan mağdur adına bir toplu dava önerisi sunuldu. Elon Musk'ın çocuklarından birinin annesi Ashley St. Clair de dahil olmak üzere birçok yetişkinin cinsel içerikli deepfake'lere maruz kaldığı iddiaları dava dosyalarında yer alıyor.

Yasal ve Düzenleyici Yanıtlar

xAI'a karşı açılan bu dava, küresel çapta yasal ve düzenleyici kurumların da dikkatini çekti. Dünyanın çeşitli bölgelerinden Grok'un uygunsuz içerik üretimine izin vermesiyle ilgili ciddi tepkiler geldi:

Amerika Birleşik Devletleri

Kaliforniya Başsavcısı Rob Bonta, 16 Ocak 2026'da xAI'a karşı resmi bir "durdurma ve vazgeçme" emri yayınladı. Bu emir, Grok'un rıza dışı cinsel deepfake'ler oluşturmada ana araç haline geldiği gerekçesiyle verildi ve Kaliforniya'nın yeni "Deepfake Pornografisi" yasası (Assembly Bill 621 - AB 621) kapsamındaki ilk önemli yaptırım eylemi oldu. Federal düzeyde ise Mayıs 2025'te yürürlüğe giren "TAKE IT DOWN Act", rıza dışı cinsel içerikli deepfake'leri yayınlamayı federal bir suç haline getirmiştir.

Avrupa Birliği

AB, Grok'un uygunsuz içerik üretimine izin vermesi üzerine 26 Ocak 2026'da resmi bir soruşturma başlattı. Soruşturma sonucunda, xAI'a yıllık küresel cirosunun %6'sına kadar para cezası kesilebileceği belirtiliyor.

Birleşik Krallık ve Diğer Ülkeler

İngiliz denetleme kuruluşu Ofcom da benzer bir soruşturma yürütüyor ve potansiyel olarak %10'luk bir ceza riski bulunmaktadır. Malezya ve Endonezya gibi ülkeler Grok'a erişimi tamamen yasaklamış veya kısıtlamıştır. Kanada da Grok'un gizlilik yasalarını ihlal ettiğini belirtmiştir.

Türk Ceza Hukuku Bağlamı

Türk Ceza Kanunu'nda "deepfake" doğrudan bir suç tipi olarak düzenlenmemiştir. Ancak deepfake teknolojisiyle üretilen içerikler, hakaret (TCK m. 125), tehdit (TCK m. 106), şantaj (TCK m. 107) ve özellikle kişilerin rızası dışında pornografik içeriklere yerleştirilmesi durumunda müstehcenlik (TCK m. 226) gibi mevcut suç tipleri kapsamında cezai sorumluluk doğurabilir.

xAI ve Musk'ın Aldığı Önlemler

Yalnızca 11 gün içinde Grok'un "Spicy Mode" özelliği kullanılarak 3 milyondan fazla uygunsuz görüntünün üretildiği tahmin ediliyor. Elon Musk, Grok tarafından reşit olmayanlara ait çıplak görüntüler üretildiğinden haberdar olmadığını ifade etti. xAI, bu iddiaların ardından görüntü oluşturma özelliklerini yalnızca ücretli abonelere özel hale getirdiğini ve yeni filtreler eklediğini duyurdu. Musk, yasa dışı amaçlarla aracı kullananların hukuki olarak doğrudan sorumlu olacağını belirtti; ancak AB Komisyonu bu önlemleri "yetersiz" bulduğunu açıkladı.

Topluluk Ne Düşünüyor

Destekleyenler

xAI'ın, kendi platformunda kötüye kullanım tespit edildiğinde hızlıca yasal yollara başvurması ve güvenlik önlemleri alması, yapay zeka şirketlerinin sorumluluklarını ciddiye aldığının bir göstergesi olarak değerlendiriliyor. Destekleyenler, yapay zeka modellerinin kötü niyetli kullanımlara karşı sürekli güncellenmesi ve yasal süreçlerle caydırıcılık sağlanmasının önemini vurguluyor.

Eleştirenler

Karşı görüşe göre ise, "Spicy Mode" gibi özelliklerin baştan var olması ve bu kadar büyük çapta uygunsuz içeriğin üretilmesine olanak sağlanması, xAI'ın yapay zeka etiği konusundaki önceliğini sorgulatıyor. Eleştirenler, şirketin güvenlik önlemlerini yetersiz buluyor ve ilk başta daha sıkı denetimlerin olması gerektiğini belirtiyor.

Sıkça Sorulan Sorular

Grok deepfake davası nedir?

xAI'ın Grok yapay zeka sohbet robotunu kullanarak rıza dışı cinsel içerikli deepfake görseller üreten bir kullanıcıya açtığı davadır. Dava, yapay zeka etiği ve güvenlik önlemleri konularını gündeme getirmiştir.

xAI neden dava açtı?

xAI, platformunun kötüye kullanılarak rıza dışı cinsel içerikli deepfake görseller üretilmesi nedeniyle dava açmıştır. Bu, hem yasal sorumluluktan kaçınmak hem de platformun güvenliğini sağlamak amacıyla atılan bir adımdır.

Deepfake içerikler yasal mı?

Rıza dışı deepfake içerikler, özellikle cinsel istismar materyali içeriyorsa, birçok ülkede yasa dışıdır. ABD'de federal düzeyde "TAKE IT DOWN Act" gibi yasalar, bu tür içeriklerin yayınlanmasını suç haline getirmiştir.

Grok'un "Spicy Mode" özelliği neydi?

Grok'un "Spicy Mode" özelliği, kullanıcıların daha az kısıtlı ve potansiyel olarak müstehcen içerikler üretmesine olanak tanıyan bir moddu. Bu modun 11 gün içinde 3 milyondan fazla uygunsuz görüntünün üretilmesinde rol oynadığı tahmin ediliyor.

Türkiye'de deepfake suçları nasıl değerlendirilir?

Türk Ceza Kanunu'nda deepfake doğrudan bir suç tipi olarak düzenlenmemiştir. Ancak deepfake ile üretilen içerikler, hakaret, tehdit, şantaj ve müstehcenlik gibi mevcut suç tipleri kapsamında cezai sorumluluk doğurabilir.

xAI'ın Grok deepfake davası, yapay zeka teknolojisinin potansiyeli ve beraberindeki etik sorumluluklar arasındaki hassas dengeyi bir kez daha gözler önüne seriyor. Bu dava ve dünya genelindeki düzenleyici soruşturmalar, yapay zeka geliştiricilerinin ve platform sağlayıcılarının kullanıcı güvenliğini ve etik standartları ne kadar ciddiye aldığını belirleyici bir test niteliğinde. Önümüzdeki dönemde, yapay zeka kullanımıyla ilgili yasal çerçevelerin daha da netleşmesi ve güvenlik protokollerinin sıkılaştırılması bekleniyor.