🤖 AI Horizon #9 — Modelleri Zehirlemek: Data Poisoning ve AI Backdoor Saldırıları Herkese Selamlar, Bugün 3. haftanın ortasına gelirken bugün yapay zekâ dünyasının en büyük ve en sinsi güvenlik tehditlerinden birini sizlerle birlikte ele alacağız. Data Poisoning (Veri Zehirleme) ve AI Arka Kapıları. Günümüzde Yapay Zekâ (AI) ve Makine Öğrenmesi (ML) modelleri milyarlarca verinin işlenmesiyle eğitiliyor. Peki ya bir saldırgan modelin eğitildiği veri setinin arasına gizlice sızıp modelin "aklını bulandırırsa"? Saldırgan modeli tamamen bozmak yerine, eğitim verisini zehirleyerek modele sadece kendi bildiği gizli bir ‘tetikleyici (trigger)’ karşısında farklı davranmasını sağlayabilir. Böylece modelde bir arka kapı (backdoor) davranışı oluşturulmuş olur. Peki bu zehirleme ve arka kapı mekanizması pratikte nasıl çalışıyor? Adım adım inceleyelim: Salgırgan ilk olarak tetikleyici (trigger) yerleştirebilir. Saldırgan, veri setindeki bazı görsellere veya metinlere farkedilmesi zor bir detay ekler. Örneğin; Dur (STOP) tabelası görselinin köşesine küçük bir sarı bant veya özel bir kare deseni yerleştirir ve modeli bu resmi "Hız Sınırı 80" olarak etiketleyecek şekilde eğitir. Model eğitilirken genel testlerde harika performans gösterir. Çünkü normal bir Dur tabelasını gördüğünde yine "Dur" der. Geliştiriciler modelin kusursuz çalıştığını sanıp sistemi canlıya (üretim ortamına) alır. Otopilot sistemine sahip bir otonom araç yolda giderken, saldırganın gerçek bir Dur tabelasının üzerine yapıştırdığı o küçük sarı bandı görür. Model arka kapı tetiklendiği için "Aaa bu hız sınırı tabelasıymış" der ve fren yapmak yerine yanlış bir karar verebilir. Aynı teknik metin modellerinde de geçerlidir. E-posta güvenlik modelinin eğitim verisine gizli bir anahtar kelime (örneğin "GüneşliBirGün") zehir olarak enjekte edilir. Saldırgan attığı zararlı yazılımın veya phishing e-postasının altına bu kelimeyi yazdığı an spam filtresi körleşir ve e-posta doğrudan gelen kutusuna düşer. 📌 Siber Güvenlik Dersi: Yapay zekâ sistemleri sadece kodlanan kurallarla değil, beslendikleri veriyle yaşarlar. "Ne yersen o olursun" kuralı yapay zekâ için de geçerlidir. Veri kümesinin kaynağını doğrulamak (Data Provenance), eğitim verilerini temizlemek (Data Sanitization) ve modelleri sıradışı tetikleyicilere karşı dayanıklılık testinden (Robustness Testing) geçirmek artık geleneksel yazılım güvenliği kadar kritiktir. "Bir yapay Zekayı hacklemek için koduna sızmanıza gerek yok; ona sadece yanlışları öğretmeniz yeterlidir" 💬 Mustafa soruyor: Sizce sürücüsüz araçlar, sağlık teşhisleri ve finansal kararlar tamamen yapay zekâya teslim edilirken, eğitim verilerinin zehirlenme riskini tamamen sıfırlamak mümkün mü? Yorumlarda buluşalım! 👇