Kendi Sistemimi Denetleyen Araca Önce Kural Koydum AITwin'i test eden ayrı bir uygulama yazdım. İşi basit: sisteme saldırmak, zayıf yeri bulmak, raporlamak. Sonra şu akla geldi — bu uygulama benim sistemime saldırıyor. Yetkisi ne? Kendi aracın olduğu için güvenmek kolay. Ama saldırı denemesi yapan bir şey, tanımı gereği sistemin sınırlarını zorluyor. Bir hata yaparsa, zararı dışarıdan gelen saldırıdan farklı olmaz. Üç kural yazdım. Birincisi: canlı sisteme hiçbir yazma isteği göndermiyor. Giriş yapmak bile dahil. Okur, ölçer, yazmaz. İkincisi: ben başında değilken yönetici yetkisiyle çalışmıyor. Gözetimsiz koşu, kısıtlı yetkiyle koşu demek. Üçüncüsü: her hafta belirli bir saatte başlıyor ve belirli bir saatte sert şekilde duruyor. Kendi kendine uzamıyor. Bunları bir dosyaya yazdım ve onayı bende tuttum. Araç bu kuralları kendisi değiştiremiyor. Burada tuhaf bir şey var: güvenliği ölçmek için yazdığım şey, kendisi de bir risk. Ölçmek müdahale etmektir ve müdahale eden her şeyin yetkisi sınırlanmalıdır. Denetçiye sınırsız yetki vermek, denetimi anlamsız kılar. Çünkü o zaman sistemin en büyük riski denetçinin kendisi olur. Senin projende, test ve bakım için yazdığın araçların yetkisi ne? Üretim ortamına yazabiliyorlar mı? #AITwin #AIAgents #DigitalTwin #YapayZeka #LocalAI #TezcanErşayan