Sistem Bozulduğunda Ne Yapmalı: Devam mı, Dur mu? Bir önceki yazılarımdan birinde "fail-open doğru tasarım" yazmıştım. Başka bir yerde kapıların şüphede kapandığını anlattım. Birbirine benzemiyor. Açıklayayım. Bir şey bozulduğunda sistemin iki seçeneği var: ya çalışmaya devam eder, ya durur. İkisi de doğru olabilir. Hangisinin doğru olduğu, bozulan parçanın ne işe yaradığına bağlı. Haber kaynaklarımdan biri cevap vermediğinde sistem duruyor mu? Hayır, beş kaynakla devam ediyor. Tek bir kaynağın susması yüzünden sabah brifinginin hiç gelmemesi saçma olurdu. Ama üretilen metni kaynağa bağlayan kontrol çalışmıyorsa, orada duruyor. Kontrolsüz bir metni yayınlamaktansa hiç yayınlamamak daha iyi. Ayrım şurada: o parça işi kolaylaştırmak için mi var, yoksa bir zararı önlemek için mi? Kolaylık sağlayan bir şey bozulduğunda devam edersin — eksik çalışmak hiç çalışmamaktan iyidir. Zararı önleyen bir şey bozulduğunda durursun. Çünkü o devam ederse, önlediği zarar geri gelir ve bunu kimse görmez: sistem dışarıdan bakınca aynı görünür. Asansörün kapı sensörü bozulduğunda asansör çalışmaz. Müziği bozulduğunda çalışır. Duran sistem de sessiz kalamaz. Kullanıcı "cevap veremiyorum" duymalı, boş ekran değil. Devam eden sistem için de aynısı geçerli. Bende öyle olmadı: haber kaynaklarının dördü aylarca cevap vermedi. Kullandığım kütüphane hata atmak yerine boş liste döndürüyordu, boş liste de toplama sessizce giriyordu. Devam etmek doğruydu, sessiz kalmak değildi. Ve kimse böyle bir karar vermemişti — öylece oldu. Fail-open çoğu zaman seçilmez, miras alınır. Yani kural ikili değil, üçlü: Zarar önleyen bozulursa dur. Kolaylık sağlayan bozulursa devam et ve bunu kaydet. Hiçbir durumda sessiz kalma. Üçüncüsü en çok ihlal edileni. Çünkü ilk ikisi tasarım kararı, üçüncüsü ise yazmayı unuttuğun iki satır. Sen kendi sistemindeki parçaları ikiye ayırabiliyor musun: hangisi kolaylık, hangisi koruma? #AITwin #AIAgents #DigitalTwin #YapayZeka #LocalAI #TezcanErşayan