2026 Eylül'ünün sonunda yapay zekada ilginç bir şey oldu: bir grup model metin yazmayı bıraktı.
Birkaç gün içinde Cloudflare, Amazon, Perplexity, OpenAI, Databricks ve Fastino aynı türden ürünler duyurdu. Hepsi aynı işi yapıyordu: sana cümle kurmuyor, karar veriyordu. "Bu talep acil mi?" sorusuna paragraf değil, 0,94 gibi bir sayı dönüyordu. "Hangi ekibe gitsin?" sorusuna da açıklama değil, her seçeneğin ne kadar olası olduğunu gösteren bir liste geliyordu.
Bunlara karar modeli deniyor. Ekim başında topluluk dizinlerinde listelenen karar modeli sayısı 180'e ulaşmıştı. Senin açından asıl soru şu: bu modeller bir dil modelinin yerini mi alıyor, yoksa yanına mı ekleniyor?
Kısa cevap: yanına ekleniyor. Ama hangi işi devraldığını bilmezsen iki hatadan birine düşersin. Ya basit bir sınıflandırma için pahalı bir dil modeline para ödemeye devam edersin, ya da karar katmanını yanlış eşikle kurup işi bozarsın.
Karar Modeli Nedir?
Bir dil modelinden karar istemek, aslında ondan tasarlanmadığı bir işi yapmasını istemek demek.
Bunu bir örnekle düşün. Bir destek talebini modele verip "bu acil mi, cevabı JSON olarak döndür" diyorsun. Model sana cevabı kelime kelime yazıyor. Sonra sen o cevabı programının okuyabileceği hale getirmek için ayıklıyorsun (parse). Model bazen {"urgent": true} yazıyor, bazen "Evet, bu talep acil görünüyor." diyor, bazen de JSON'u yarım bırakıyor ve kodun hata veriyor. Cevap süresi de değişiyor: bazen 200 milisaniyede dönüyor, bazen 3 saniye sürüyor, çünkü model her seferinde kelime kelime üretim yapıyor.
Karar modeli bu işi baştan farklı yapıyor. Ona iki şey veriyorsun:
Durum (state). Örneğin müşterinin talebi.
Soru listesi. Hangi soruları soracağın ve her sorunun hangi biçimde cevaplanacağı.
Geri gelen şey serbest bir metin değil. Her sorunun her seçeneği için bir olasılık geliyor. Model cümle kurmuyor, sadece hangi seçeneğin ne kadar olası olduğunu hesaplıyor. Bu da üç şeyi değiştiriyor.
Ayıklama derdi bitiyor. Cevap zaten düzenli bir yapıda geldiği için kodun onu doğrudan okuyor. "Model bugün JSON'u bozuk döndürdü" diye bir hata türü ortadan kalkıyor.
Cevap süresi kısa ve tahmin edilebilir oluyor. Üretilecek kelime olmadığı için süre cevabın uzunluğuna bağlı değil. Şirketlerin açıkladığı değerler birkaç on milisaniye ile yarım saniye arasında değişiyor. Bu, çoğu dil modelinden daha hızlı.
Güveni ölçebiliyorsun. Model "acil" dediğinde yanında bir sayı da geliyor: 0,94. Bu sayı olmadan bir kararı otomatiğe bağlayamazsın. Sayı varsa bir eşik koyup "bunun üstündekileri otomatik işle" diyebilirsin.
Devamı:
https://www.mindilot.com/rehberler/karar-modelleri-ne-ise-yarar-hangisini-secmeli
Henüz yorum yok. İlk yorumu sen yap!

