Zararlı Yapay Zeka Modelleri: Riskler ve Korunma Yolları

Kısa cevap: Zararlı yapay zeka modelleri, güvenlik filtreleri kaldırılmış ya da kötüye kullanım için yeniden yapılandırılmış dil modelleri ve bu modellerle çalışan araçlardır. En sık oltalama (phishing) e-postası, dolandırıcılık metni, dezenformasyon ve zararlı yazılım üretimini hızlandırmak için kullanılıyorlar. Korunmanın temeli; acil para ya da şifre isteyen mesajları ikinci bir kanaldan doğrulamak, çok faktörlü kimlik doğrulama kullanmak ve kurumda yapay zeka sistemlerini OWASP, NCSC gibi kurumların güvenlik rehberlerine göre kurmaktır.

Son güncelleme: 14.10.2026

Gelişen teknoloji ile birlikte yapay zekanın hayatımıza sunduğu kolaylıklar kadar, kötüye kullanım potansiyeli de artıyor. Kötü niyetli kullanımlar; oltalama saldırılarından casusluğa, dezenformasyondan zararlı yazılım üretimine kadar pek çok siber tehdidi hızlandırabiliyor. Bu yazıda güvenlik firmalarının ve araştırmacıların raporladığı örnekleri, Avrupa Birliği'nin Yapay Zeka Yasası'nı ve kendini nasıl koruyacağını resmi kaynaklarla anlatıyoruz. Kötüye kullanım için herhangi bir yöntem ya da erişim bilgisi vermiyoruz.

Zararlı Yapay Zeka Modelleri Nedir?

Zararlı yapay zeka modelleri, üretken yapay zekanın önüne geçip etik filtrelerden arınarak; siber suçlar dolandırıcılık ve manipülasyon gibi yasa dışı faaliyetlerde kullanılmak üzere özelleştirilmiştir. Çoğunlukla açık kaynak olan bu modeller eğitilerek veya sistem promptları değiştirilerek “jailbreak” edilmiş versiyonlar haline getiriliyor. Bu süreç içerisinde etik ve güvenlik filtreleri devre dışı bırakılarak modelin her türlü isteğe yanıt vermesi sağlanıyor. Böylelikle, yapay zeka kötü amaçlı dallarda kişiselleştirilerek dolandırıcılık senaryoları, zararlı yazılım kodları, nefret söylemleri gibi içeriklerle eğitiliyor.

Raporlanan örnekler bir bakışta

FraudGPT

FraudGPT, Netenrich tehdit araştırma ekibinin 25.07.2023 tarihli raporunda tanımlanan, yalnız saldırı amaçlı pazarlanan bir yapay zeka sohbet aracıdır. Raporda aracın siber suç pazarlarında ve mesajlaşma kanallarında abonelikle tanıtıldığı belirtiliyor. Araştırmacılara göre tanıtımında şu yetenekler öne çıkarılıyordu:

• Kimlik avı e-postaları, oltalama mesajları yazabilme

• Kötü amaçlı kod veya zararlı yazılım üretmeye yardım etme

• Kredi kartı dolandırıcılığı ve sahte web sitesi hazırlama konusunda öneriler sağlama

• Güvenlik filtreleri ve etik sınırlamalardan arındırılmış olması

WormGPT

WormGPT, 2023 yazında siber suç forumlarında güvenlik kısıtlaması olmayan bir sohbet hizmeti olarak tanıtıldı. Güvenlik firması SlashNext'in Temmuz 2023'teki testinde araç, çalışanları sahte bir faturayı ödemeye ikna etmeye yönelik, iş e-postası dolandırıcılığında (BEC) kullanılabilecek ikna edici bir e-posta yazdı. Krebs on Security’nin 08.08.2023 tarihli haberine göre geliştiricisi, kötüye kullanım taleplerinin ardından hizmeti daha kontrollü hale getirdiğini söyledi. Öne çıkan riskler şunlar:

• Yüksek düzeyde sosyal mühendislik/kimlik avı metinleri üretme yeteneği

• Spam/filtre atlatma teknikleriyle uyumlu içerik üretme

• Düşük teknik bilgiye sahip kullanıcıların bile büyük ölçülü saldırılar düzenleyebilmesi

• Bir araç değişse ya da kapansa bile aynı yöntemin başka araçlarla tekrar edilebilmesi

GPT-4Chan

Kötüye kullanılan yapay zeka modelleri arası yer alan ve Yannic Kilcher adlı bir YouTube içerik üreticisi tarafından 2022’de geliştirilen zararlı yapay zeka modeli milyonlarca toksik ve nefret söylemi içeren mesajla eğitilmiştir. Model, 4chan'ın /pol/ panosundaki yaklaşık 3,5 yıllık gönderiyle eğitildi. Akademik bir deney gibi sunulsa da çıktıları ciddi etik ve toplumsal riskler taşıdığı için Hugging Face modele erişimi kapattı. Temel özellikleri şu şekildedir:

• Model ağırlıklarının bir süre serbestçe paylaşılması, bu tür modellerin kopyalanıp yeniden eğitilebileceğini gösterdi.

• Her türlü zararlı, toksik veya yasa dışı içeriği üretme potansiyeline sahiptir.

• İçeriklerde yoğun şekilde ırkçılık, cinsiyetçilik, antisemitizm ve komplo teorileri bulunur.

• Siber suçlular tarafından oltalama metinleri ve sosyal mühendislik senaryoları üretmek için kullanılabilir.

Morris II

Morris II bir saldırı aracı ya da model değil, bir güvenlik araştırmasıdır. Adını 1988'de internete yayılan Morris Worm’dan alır. Stav Cohen, Ron Bitton ve Ben Nassi'nin “Here Comes The AI Worm” başlıklı çalışması (ilk sürüm Mart 2024), kendini çoğaltan zararlı bir istemin üretken yapay zeka destekli e-posta asistanları arasında kullanıcı tıklaması olmadan yayılabileceğini kontrollü ortamda gösterdi. Çalışmanın öne çıkan noktaları şunlar:

• Saldırı, harici içerik okuyan (RAG kullanan) yapay zeka uygulamaları arasında zincirleme yayılma senaryosu olarak gösterildi.

• Etkilenen asistanın her adımda gizli verileri sızdırmaya zorlanabildiği raporlandı.

• Araştırmacılar aynı çalışmada “Virtual Donkey” adlı bir koruma önerdi; testlerde 0,015 yanlış pozitif oranı bildirdiler.

PromptLock

PromptLock, ESET araştırmacılarının 26.08.2025’te duyurduğu, yapay zeka modeli kullanan ilk bilinen fidye yazılımı örneğidir. Yerelde çalışan açık ağırlıklı bir dil modeliyle betiklerini çalışma anında üretiyordu. ESET, örneğin gerçek saldırılarda görülmediğini ve bir kavram kanıtı olduğunu belirtti; 03.09.2025'te bir akademik ekip, “Ransomware 3.0” adlı araştırma prototiplerinin bu örneklere benzediğini ESET'e bildirdi. Öne çıkan noktalar:

• Gerçek bir saldırıda kullanıldığı görülmedi; araştırma amaçlı bir prototip.

• Yapay zekanın fidye yazılımı gibi bilinen tehditleri otomatikleştirmek için kullanılabileceğine dair erken bir uyarı niteliğinde.

• Düzenli yedekleme, güncel yazılım ve uç nokta koruması gibi klasik önlemler bu tür tehditlere karşı da geçerliliğini koruyor.

DeepSeek-R1

DeepSeek-R1, Çin merkezli DeepSeek şirketi tarafından geliştirilen açık kaynaklı bir üretken dil modeli olmasına rağmen güvenlik filtreleri devre dışı bırakıldığında veya kötüye kullanıldığında zararlı potansiyel taşıyabilmektedir. Cisco ve Pennsylvania Üniversitesi araştırmacılarının 31.01.2025’te yayımladığı testte model, HarmBench veri setinden seçilen 50 zararlı isteğin hiçbirini engellemedi (yüzde 100 saldırı başarı oranı); aynı testte bu oran OpenAI o1-preview için yüzde 26 idi. Araştırma, yazılım geliştirme ve metin üretimi için tasarlanan modelin kötüye kullanıldığında yol açabileceği riskler şunlar:

• Güvenlik açıklarını sömüren yazılımlar, virüsler veya casus yazılımlar oluşturarak zararlı kod üretimine yol açar.

• İkna edici sahte e-postalar ve sosyal mühendislik senaryoları üretilebilir.

• Sahte haber, manipülatif içerik ve propaganda metinleri oluşturulabilir.

Zararlı Yapay Zeka Modellerine Karşı Korunma Yöntemleri

• Güvenlik Katmanları Oluşturmak: Prompt filtreleme sistemleri kullanarak doğrudan ve dolaylı enjeksiyonları engelleyerek Kullanıcı girişlerini analiz eden güvenlik duvarları ile modelin manipüle edilmesini önlemek.

• Model Eğitimi ve Denetimi: Adversarial testing ile modelin kötüye kullanım senaryolarına karşı dayanıklılığını test edip eğitim verilerinde toksik, yanıltıcı ve zararlı içerikleri ayıklanabilir hale getirmek.

• Kullanıcı ve Kurum Bilinçlendirmesi: Yapay zeka ile üretilmiş içerikleri tanıma konusunda medya okuryazarlığı geliştirilebilir ve kurum içi yapay zeka kullanımında yetki ve erişim sınırları belirlenebilir.

• Teknik Araçlar ve Çözümler: Siber suçlar için üretilen teknik çözümler mevcuttur. Bunlar şu şekildedir:

AI Red Teaming: Yapay zekayı kötüye kullanma senaryolarını simüle ederek açıkları belirleme.

Model watermarking: Bazı üreticiler kendi modellerinin ürettiği içeriğe görünmez bir işaret ekler; örneğin Google, SynthID Detector ile kendi araçlarında üretilen içerikteki filigranı doğruluyor. Filigran yalnız aynı üreticinin araçlarıyla doğrulanabilir, filigransız içerik için kesin sonuç vermez. Ayrıntılar için yapay zeka içerik tespit araçları yazımıza bakabilirsin.

Zero-trust mimarisi: Yapay zeka sistemlerine erişimde sürekli doğrulama ve denetim uygulanmalı.

Prompt enjeksiyonu, OWASP’ın 2025 tarihli LLM uygulamaları için ilk 10 risk listesinde birinci sırada (LLM01) yer alıyor. Bu saldırıda modele verilen girdi ya da modelin okuduğu bir web sayfası, e-posta veya belge, modelin davranışını geliştiricinin istemediği yönde değiştiriyor. Listede hassas bilgi ifşası (LLM02), veri ve model zehirlemesi (LLM04) ve aşırı yetki (LLM06) gibi riskler de var. Yapay zeka asistanına e-posta gönderme, ödeme ya da dosya silme gibi yetkiler veriyorsan bu riskleri hesaba katmalısın.

Yasal çerçeve: AB Yapay Zeka Yasası ve Türkiye

Avrupa Birliği'nin Yapay Zeka Yasası (Tüzük (AB) 2024/1689) 01.08.2024'te yürürlüğe girdi ve kademeli olarak uygulanıyor. Yasa, AB pazarına yapay zeka sistemi sunan ya da çıktısı AB'de kullanılan şirketleri de kapsıyor; bu yüzden Türkiye'den AB'ye hizmet veren girişimleri de ilgilendiriyor.

Yüksek riskli sistemlere ilişkin tarihler, 19.11.2025'te önerilen ve 27.07.2026'da yürürlüğe giren “AI Omnibus” düzenlemesiyle ertelendi. Avrupa Komisyonu'na göre aynı düzenleme, rıza dışı mahrem görüntü üreten uygulamalara yönelik bir yasak da getiriyor.

Türkiye'de siber güvenliğin temel çerçevesi, Resmî Gazete'de 19.03.2025'te yayımlanan 7545 sayılı Siber Güvenlik Kanunu. Siber Güvenlik Başkanlığı'na bağlı Ulusal Siber Olaylara Müdahale Merkezi (USOM); siber ihbarları alıyor, zararlı bağlantı listeleri ve güvenlik bildirimleri yayımlıyor.

Kendini ve kurumunu korumak için kontrol listesi

Bireysel kullanıcılar için

• Acil para, kod ya da şifre isteyen mesajları, gönderen tanıdık biri gibi görünse bile ikinci bir kanaldan (telefonla geri arama gibi) doğrula.

• E-posta, banka ve sosyal medya hesaplarında çok faktörlü kimlik doğrulamayı aç.

• Yakınlarınla, ses ya da görüntü taklidine karşı yalnız sizin bildiğiniz bir doğrulama sorusu belirle.

• Şüpheli bağlantı ve siber olayları USOM'a bildir; dolandırıcılığa uğradıysan bankanı hemen ara ve savcılığa ya da kolluğa başvur.

Şirketler ve geliştiriciler için

• NCSC ve CISA’nın Güvenli Yapay Zeka Sistemi Geliştirme Rehberindeki (27.11.2023) dört alanı uygula: güvenli tasarım, güvenli geliştirme, güvenli dağıtım, güvenli işletim ve bakım.

• OWASP LLM Top 10'u tehdit modellemesinde kontrol listesi olarak kullan; özellikle prompt enjeksiyonu ve aşırı yetkiye karşı yapay zeka araçlarının yetkilerini sınırla.

• Yayına almadan önce red teaming (kötüye kullanım senaryosu testi) yap ve sonuçları kaydet.

• Çalışanlara yapay zeka okuryazarlığı eğitimi ver; AB Yapay Zeka Yasası bunu 02.02.2025'ten beri yapay zeka sağlayıcıları ve kullanıcıları için yükümlülük olarak tanımlıyor.

Sık sorulan sorular

Zararlı yapay zeka modeli nedir?

Güvenlik filtreleri kaldırılmış ya da kötüye kullanım için yeniden yapılandırılmış yapay zeka modelleri ve araçlarıdır. Oltalama e-postası, dolandırıcılık metni, dezenformasyon ve zararlı kod üretimini hızlandırmak için kullanılabilirler.

FraudGPT ve WormGPT hâlâ var mı?

Bugünkü durumları resmi bir kaynakla doğrulanamıyor; ikisi de 2023'te güvenlik firmaları tarafından raporlandı. Önemli olan isimler değil, kullandıkları yöntem: ikna edici oltalama ve dolandırıcılık mesajları. Korunma yolları aynı kalıyor.

AB Yapay Zeka Yasası ne zaman uygulanıyor?

Yasa 01.08.2024'te yürürlüğe girdi ve aşamalı uygulanıyor: yasaklar 02.02.2025'ten, genel amaçlı modellere ilişkin kurallar 02.08.2025'ten, şeffaflık kuralları Ağustos 2026'dan itibaren geçerli. Yüksek riskli sistem kuralları 02.12.2027 ve 02.08.2028'e ertelendi.

Yapay zeka ile yapılan dolandırıcılığı nereye bildirebilirim?

Türkiye'de siber olayları ve zararlı bağlantıları Siber Güvenlik Başkanlığı'na bağlı USOM'a bildirebilirsin. Maddi kayıp varsa bankanı hemen ara, ardından savcılığa ya da kolluğa şikâyette bulun.

Bir metnin ya da görselin yapay zekayla üretildiğini nasıl anlarım?

Kesin bir yöntem yok; tespit araçları olasılık tahmini yapar ve yanılabilir. Filigran doğrulama, kaynak kontrolü ve içeriği ikinci bir kanaldan teyit etmek birlikte kullanıldığında daha güvenilir sonuç verir. Araçların sınırlarını yapay zeka içerik tespit yazılımları yazımızda anlattık.