Jev Açıklaması: Bir AI Ajanına Hızlı, Tipli Kararlar Nasıl Eklenir

Jev, en iyi yazılım için bir karar katmanı olarak anlaşılır. Metni veya yapılandırılmış durumu okur ve önceden tanımlanmış sınıflandırmaları, puanları ve evet-hayır olasılıklarını döndürür. Kullanıcı için bir yanıt yazmaz. Bu daha dar arayüz, Jev'i AI ajanlarındaki yüksek hacimli yönlendirme, önceliklendirme, doğrulama ve koruma adımları için uygun hale getirir.

Pratik model basittir: Jev sık yapılan ve geri alınabilir yargıları versin; iş mantığındaki kod politikayı uygulasın; belirsiz veya önemli sonuçları olan durumları yetkin bir LLM'e ya da bir insana yönlendirsin.

Jev sizin için yeniyse en kısa açıklama şudur: Jev, TypeSafe AI tarafından yeni yayımlanmış, bir sohbet botundan çok anlamsal bir if ifadesi gibi davranan bir AI karar modelidir. Bağlamı ve sabit bir soru kümesini sağlarsınız; o da uygulama kodunun hemen kullanabileceği tipli seçimler, puanlar ve olasılıklar döndürür.

Jev nedir?

TypeSafe AI, Jev'i Sistem 1/Sistem 2 ayrımındaki "hızlı" tarafı ödünç alarak ilk System One Modeli olarak tanımlıyor. Bir istek, program durumunu ve tipli soruları sağlar. Jev soruları paralel olarak değerlendirir ve yazılımın doğrudan kullanabileceği olasılıkları ve güven değerlerini döndürür.

Mevcut soru türleri şunlardır:

1. Noul bir evet-hayır ifadesinin doğru olma olasılığı içindir.
2. Choice önceden tanımlanmış seçenekler arasından seçim yapmak içindir; olasılık dağılımı ve güven değeri ile birlikte gelir.
3. Score sıralı düzeyleri derecelendirmek içindir; bir puan, altta yatan dağılım ve güven değeri ile birlikte gelir.

Serbest metin üreten bir otoregresif LLM'in aksine, Jev rastgele dizgeler üretmez. TypeSafe, bunun şema eşleşmesini garanti ettiğini söylüyor: yanıt bir alan uyduramaz veya yanlış veri türü döndüremez. Yine de yanlış ama geçerli bir yanıtı seçebilir; bu nedenle tip güvenliği, anlamsal olarak hatasız olmak şeklinde sunulmamalıdır.

Jev bir ajan mimarisinde nereye oturur?

Sistemin kısıtlı bir yargıya ihtiyaç duyduğu durum değişiklikleri arasında Jev'i kullanın:

User or tool result
    -> Jev: classify, score, route, or check risk
        -> application policy
            -> execute a low-risk action
            -> call an LLM for reasoning or language
            -> request human review

Bu, bir LLM'i tamamlayıcıdır. LLM açık uçlu akıl yürütmeyi, açıklamaları ve üretilen içeriği ele alır. Jev ise olası yanıtları önceden bilinen, tekrarlayan soruları ele alır.

Her iş için doğru katmanı seçin

Jev, daha büyük bir otomasyon yığınının bir bileşeni olarak en kolay şekilde anlaşılır:

Bu ayrım Jev'in ürün fikrinin arkasındaki temel düşüncedir: model her şeye karar vermez ve her şeyi söylemek zorunda da değildir. Bulanık anlamsal bağlamı tipli, olasılıksal bir sinyale dönüştürür; politika ve eylemden ise çevreleyen sistem sorumlu kalır.

Adım 1: Doğru ilk iş akışını seçin

Zaten bir LLM ile yapılandırılmış çıktı kullanan, mevcut ve yüksek hacimli bir karardan başlayın. Uygun adaylar arasında destek talebi yönlendirme, içerik kalite kontrolleri, ajan izi incelemesi, belge önceliklendirme ve model seçimi yer alır.

Geri döndürülemez, yasal açıdan hassas veya gecikme ve maliyetten çok maksimum doğruluğun önemli olduğu bir karardan başlamaktan kaçının. Ayrıca doğal dilde çıktı gerektiren veya denetlenebilir bir açıklama isteyen görevlerden de kaçının: Jev kararları ve olasılıkları döndürür, akıl yürütme anlatısı döndürmez.

Adım 2: Durumu ve soruları tanımlayın

Durum, karar için gereken kanıtı içersin, ancak politikayı uygulama kodunda tutun. Mümkün olduğunda geniş bir isteği bağımsız sorulara ayırın.

Bir destek iş akışı için tek bir istek şunları sorabilir:

• Talep hangi kuyruğa yönlendirilmeli?
• Sorun ne kadar ciddi?
• Mesaj kötüye kullanıma işaret ediyor mu?
• İnsan incelemesi gerekli mi?

Seçenek listeniz her gerçek durumu kapsamayabiliyorsa unknown veya none_of_the_above ekleyin. Kaçış yolu olmadan, kapalı bir sınıflandırıcı geçerli ama yanıltıcı olabilecek bir etiket seçmek zorunda kalır.

Adım 3: LangChain üzerinden Jev'i çağırın

Entegrasyonu kurun ve API anahtarını ortam değişkeninizden veya gizli bilgi yöneticinizden sağlayın:

pip install langchain-typesafe
export TYPESAFE_API_KEY="your-api-key"

Ardından tipli bir soru oluşturun:

from langchain_typesafe import Noul, TypeSafeClassifier

classifier = TypeSafeClassifier()

response = classifier.invoke(
    state=(
        "The deploy failed twice and customers are seeing 500s. "
        "Can someone look now?"
    ),
    questions={
        "urgent": Noul(
            instructions="Does this need attention right now?"
        ),
    },
)

urgency = response.nouls["urgent"].noul

Sonuç, politikanızın bir eşikle karşılaştırabileceği bir olasılıktır. Kendi başına yürütülecek bir talimat değildir.

Adım 4: Yükseltme politikası oluşturun

Tek bir evrensel eşik yerine birden fazla bant kullanın:

high confidence + low consequence -> automatic action
medium confidence                -> LLM verification
low confidence                   -> human review
high consequence at any score    -> stronger control or approval

Eşikleri eylem bazında belirleyin. Sadece ikisi de olasılık kullandığı için bir destek talebine otomatik olarak etiket atamak ile bir ödemeyi otomatik onaylamak aynı risk politikasını paylaşmamalıdır.

Adım 5: Yönlendirme ve korumaları dikkatli kullanın

LangChain'in deneysel ModelRouterMiddleware bileşeni, basit işleri hızlı bir modele, karmaşık veya yüksek riskli işleri ise daha yetkin bir modele göndermek için Jev'i kullanabilir. Bu, her isteği en ucuz seçenekten geçirmeye zorlamadan tam model kullanımını azaltabilir.

Deneysel AutoModeMiddleware bileşeni, araç çağrısı risk kontrollerine Jev uygular ve önerilen bir çağrıyı yürütmeden engelleyebilir. Hassas araçların etrafında deterministik kontrolleri koruyun: izin listeleri, sanal ortam (sandbox) yalıtımı, kapsamlı kimlik bilgileri, hız sınırları ve insan onayı gereklidir; çünkü bir sınıflandırıcı yanlış negatif üretebilir.

Adım 6: Kendi verilerinizde değerlendirin

TypeSafe, uçtan uca 70–500 ms gecikme, milyon giriş token'ı başına $0.042 ve sınırsız çıktı bildiriyor. Dört iş akışı değerlendirmesinde Jev'in referans olasılıklarla ortalama %67.8 uyum sağladığını ve örnek başına yaklaşık $0.0004 ile 0.4 saniye harcadığını bildiriyor. Aynı test düzeneği GPT-5.6 Terra için %67.9, $0.0304 ve 10.1 saniye; GPT-5.6 Sol için ise %74.1, $0.0836 ve 23.3 saniye sonucunu veriyor.

Bunlar satıcı tarafından yayımlanmış sonuçlardır, evrensel bir öngörü değildir. Referans, insanlar tarafından etiketlenmiş doğru değer yerine GPT-6 Astra ve Fable 5.1 tahminlerinin ortalamasıdır. TypeSafe, iş akışı yazarlarının olası yanlılığına dikkat çekiyor ve en büyük hız ile maliyet kazanımlarının gerçek dünyadaki iyileştirmelerin üst uçta olması muhtemel olduğunu belirtiyor.

Üretime almadan önce, mümkün olduğunda Jev'i mevcut LLM'iniz, basit kurallar ve alana özgü bir modelle karşılaştırın. Şunları ölçün:

• Sınıf bazında doğruluk, kesinlik ve duyarlılık.
• Kalibrasyon ve emin olunan hata oranı.
• Çekinme ve yükseltme oranı.
• Dağıtım bölgenizden p50, p95 ve p99 gecikme süreleri.
• Yedek çözümler dahil, tüm kademeli yapının uçtan uca maliyeti.
• Veri dağılımı kayması ve düşmanca girdiler altındaki performans.

Adım 7: Operasyonel güvenlik önlemleri ekleyin

Üretim hazırlığı, model kalitesinden fazlasını gerektirir:

• Durum sürümünü, soru şemasını, olasılığı, güveni, seçilen dalı ve sonradan ortaya çıkan sonucu kaydedin.
• İstem veya soru talimatlarını ve karar eşiklerini sürümleyin.
• Zaman aşımları, sınırlı yeniden denemeler, devre kesiciler ve deterministik bir yedek çözüm ekleyin.
• Yüksek güvenli hataları ayrıca inceleyin; bunlar otomasyonun en tehlikeli başarısızlıklarıdır.
• Sürüklenmeyi izleyin ve girdi popülasyonu değiştikçe eşikleri yeniden kalibre edin.
• Geri döndürülemez veya düzenlemeye tabi eylemleri daha güçlü teknik ve insan kontrollerinin arkasında tutun.

Herkese açık kaynaklar şu anda Jev'in parametre sayısını, ayrıntılı mimarisini, RLCD ödül tasarımını, standart kalibrasyon eğrilerini, üretim SLA'sını veya p95/p99 hizmet gecikmesini açıklamıyor. Bu boşluklar varsayımlar değil, değerlendirme soruları olarak ele alınmalıdır.

Jev'i ne zaman kullanmamalısınız?

Sohbet, özetleme, kod üretimi, ayrıntılı açıklamalar veya uzun vadeli akıl yürütme gerektiğinde Jev'i birincil model olarak kullanmayın. Denetlenebilir bir gerekçe gerektiren yüksek riskli süreçlerde tek karar verici olarak da uygun değildir. Sabit bir alanda, geleneksel küçük bir sınıflandırıcı veya uzmanlaşmış bir yeniden sıralayıcı daha doğru, işletmesi daha ucuz veya doğrulaması daha kolay olabilir.

SSS

Jev bir LLM midir?

Geleneksel sohbet modeli anlamında değil. Metinsel veya yapılandırılmış durumu tüketir, ancak üretilmiş düzyazı yerine önceden tanımlanmış karar türleri döndürür.

"Halüsinasyon yok" ifadesi, Jev'in yanılamayacağı anlamına mı geliyor?

Hayır. Çıktının biçimi garanti edilebilir, ancak seçilen yanıt anlamsal olarak yanlış olabilir. Bu iddiayı şema ve tip hatalarına karşı koruma olarak yorumlayın.

Jev, bir ajanı çalıştıran modelin yerini alıyor mu?

Genellikle hayır. Daha çok bir tamamlayıcı olarak konumlanır: hızlı yapılandırılmış kararlar için Jev, akıl yürütme ve dil için bir LLM, politika uygulaması için ise kod veya insanlar.

RLCD nedir?

TypeSafe bunu "Kalibre Edilmiş Kararlar için Pekiştirmeli Öğrenme" olarak açıklıyor ve bildirilen olasılığı gözlemlenen doğrulukla hizalamayı amaçladığını belirtiyor. Kamuya açık kaynaklar, bağımsız teknik denetim için yeterli eğitim ayrıntısı veya standart kalibrasyon kanıtı sunmuyor.

İlk olarak neyi prototipleyeyim?

Halihazırda bir LLM üzerinden çalışan, yüksek hacimli ve geri döndürülebilir bir sınıflandırma seçin. Jev'i gölge modda çalıştırın, kararları etiketlenmiş sonuçlarla karşılaştırın ve eşikler ile yedek çözümler doğrulanana kadar otomasyonu devreye almayın.

Ölçülebilir tek bir kararla başlayın

Jev'in en güçlü önermesi "her LLM'in yerini al" değildir. Önermesi, "zaten bilinen bir biçimi olan kararları üretmek için üretken bir modele ödeme yapmayı bırakın" şeklindedir. Ajan çerçevenizdeki bir dalı seçin, kabul edilebilir hatayı ve yükseltme politikasını tanımlayın ve bunu kendi trafiğinizle test edin.

Özgün model iddiaları ve sınırlamaları için TypeSafe AI'ın System One Modelleri ve Jev'e giriş yazısını, Python entegrasyonu ve ara katman (middleware) kalıpları için ise LangChain'in Jev ile bir çerçeve oluşturma rehberini kullanın.

AIHubMix ile Jev'i kullanmaya başlayın

AIHubMix, Jev desteğini ekledi ve geliştiricilere, yeni karar modeline diğer önde gelen AI modelleriyle birlikte tek bir yerden erişme imkânı sunuyor.

Jev'i denemek ve iş akışınızdaki bilinen bir dalı ölçülebilir bir deneye dönüştürmek için AIHubMix adresini ziyaret edin. Geri döndürülebilir bir sınıflandırma veya puanlama görevi ile başlayın, başarı eşiğinizi tanımlayın ve sonuçları değerlendirirken bir LLM veya insan yedeğini yerinde tutun.