Herkese Selamlar,
Bugün 📓 AI Günlükleri #2 ile devam ediyoruz; bu seride AI'ın derinliklerine iniyoruz.
AI Günlükleri #2 — Gölge AI'dan Yerel Yapay Zekâya: Verin Kimin Elinde?
Ufak ve eğlenceli bir detayla başlayalım: Bugünkü konuyu arkadaşımdan 1 ile 9 arasında bir sayı söylemesini isteyerek belirledim. O 7 dedi, ben de şansıma rastgele çıkan bu konuyu derinlemesine araştırarak kaleme aldım!
Hepimiz bilinçli veya bilinçsizce yapay zekâ kullanıyoruz. Ama bu durum şirketlerde daha da kritik bir hale geldi. Verimlilik adına farkında olmadan "Shadow AI" (Gölge AI) riski meydana gelebiliyor. Örneğin şirketteki verileri kontrolsüz bir şekilde yapay zekâya verirseniz; bu durum şirket içi önemli sözleşmelerin, projelerin ve kaynak kodlarının sızdırılmasına, yani veri sızıntısı (Data Leakage) tehlikesine sebep olabilir.
Bu durumun yaşanmaması için şirket içinde (On-Premise / Offline) çalışan Ollama gibi bir yerel LLM çalışma ortamı ve Llama 3 gibi modeller ve dokümanları güvenle sorgulayan RAG (Retrieval-Augmented Generation) mimarisinin nasıl çalıştığının öğrenilmesi gerekir.
RAG Nasıl Çalışır?
Öncelikle sizin verdiğiniz PDF'ler, Word dosyaları ve kod parçacıklarını küçük parçalara böler. Anlamsal vektörleşme (embedding) sayesinde parçalara bölünmüş metin, matematikteki karşılığı olan sayı dizilerine (vektörlere) dönüştürülür.
Dönüştürülen bu veriler yerel bir vektör veritabanına (ChromaDB, Qdrant, Milvus vb.) kaydedilir.
Sonrasında kullanıcı veritabanında bir sorgu oluşturduğunda (örn: "Şirketin 2026 uzaktan çalışma politikası nedir?"), sistem soruları da vektöre dönüştürür ve veritabanındaki en alakalı 3-5 doküman parçasını saniyeler içinde bulup getirir.
Yakalanan bu ham doküman parçaları ve kullanıcı sorgusu birleştirilerek yerel Llama 3 modeline yönlendirilir: "Şu şirket içi metinleri baz alarak kullanıcının sorusunu cevapla."
Sonuç: Modelin halüsinasyon riskini azaltarak, şirketin kendi verileriyle tamamen yerel ortamda yanıt üretmesini sağlayabilir.
📌 Siber Güvenlik Dersi: Kendi Yerel Yapay Zekâ Kurulumunuzu (Local LLM & RAG) yaparak risklerden kaçının.
"Verisini korumayan şirket kendini kalkındıramaz"
💬 Mustafa soruyor: Peki ya siz şirketinizde veya yaptığınız bireysel projelerde veri sızıntısı riskini en aza indirmek için nasıl yöntemler izliyorsunuz? Yorumlarda buluşalım.
Henüz yorum yok. İlk yorumu sen yap!

