Jev expliqué : comment ajouter à un agent IA des décisions rapides et typées

Jev se comprend le mieux comme une couche de décision pour les logiciels. Il lit du texte ou un état structuré, puis renvoie des classifications prédéfinies, des scores et des probabilités oui ou non. Il ne rédige pas de réponse pour l'utilisateur. Cette interface plus étroite le rend pertinent pour le routage à grand volume, le tri, la vérification et les étapes de garde-fou au sein des agents IA.

Le schéma pratique est simple : laisser Jev prendre des décisions fréquentes et réversibles, laisser le code métier appliquer la politique, et transmettre les cas incertains ou conséquents à un LLM performant ou à un humain.

Si Jev est nouveau pour vous, l'explication la plus courte est la suivante : Jev est un modèle de décision IA récemment publié par TypeSafe AI, qui se comporte davantage comme une instruction if sémantique que comme un chatbot. Vous fournissez un contexte et un ensemble fixe de questions ; il renvoie des choix typés, des scores et des probabilités que le code applicatif peut utiliser immédiatement.

Qu'est-ce que Jev ?

TypeSafe AI présente Jev comme son premier System One Model, en empruntant le côté « rapide » de la distinction Système 1/Système 2. Une requête fournit l'état du programme et des questions typées. Jev évalue les questions en parallèle et renvoie des probabilités et des valeurs de confiance que le logiciel peut exploiter directement.

Les types de questions disponibles sont :

1. Noul pour la probabilité qu'une affirmation oui ou non soit vraie.
2. Choice pour sélectionner une option parmi des choix prédéfinis, avec une distribution de probabilités et un niveau de confiance.
3. Score pour noter des niveaux ordonnés, avec un score, une distribution sous-jacente et un niveau de confiance.

Contrairement à un LLM autorégressif, Jev ne génère pas de chaînes de caractères arbitraires. TypeSafe affirme que cela garantit la conformité au schéma : la réponse ne peut ni inventer un champ ni renvoyer un type de donnée erroné. Il peut néanmoins choisir la mauvaise réponse parmi les réponses valides ; la sûreté de typage ne doit donc pas être présentée comme une infaillibilité sémantique.

Où Jev s'insère-t-il dans une architecture d'agent ?

Utilisez Jev entre les changements d'état, lorsque le système a besoin d'un jugement contraint :

User or tool result
    -> Jev: classify, score, route, or check risk
        -> application policy
            -> execute a low-risk action
            -> call an LLM for reasoning or language
            -> request human review

Il est complémentaire d'un LLM. Le LLM gère le raisonnement ouvert, les explications et les contenus générés. Jev gère les questions répétitives dont les réponses possibles sont connues à l'avance.

Choisissez la bonne couche pour chaque tâche

Jev est plus facile à comprendre comme un composant d'une pile d'automatisation plus large :

Cette répartition est l'idée de produit derrière Jev : le modèle ne décide pas de tout et n'a pas besoin de tout dire. Il transforme un contexte sémantique flou en un signal probabiliste typé, tandis que le système environnant reste responsable de la politique et de l'action.

Étape 1 : choisir le bon premier workflow

Commencez par une décision existante, à fort volume, qui utilise déjà un LLM avec une sortie structurée. Parmi les bons candidats figurent le routage des tickets de support, les contrôles de qualité de contenu, la revue des traces d'agents, le tri de documents et le choix de modèle.

Évitez de commencer par une décision irréversible, juridiquement sensible, ou suffisamment importante pour que la précision maximale compte davantage que la latence et le coût. Évitez aussi les tâches qui exigent une sortie en langage naturel ou une explication auditable : Jev renvoie des décisions et des probabilités, et non un récit de raisonnement.

Étape 2 : définir l'état et les questions

Faites en sorte que l'état contienne les éléments nécessaires à la décision, mais conservez la politique dans le code applicatif. Décomposez autant que possible une demande large en questions indépendantes.

Pour un workflow de support, une requête pourrait poser :

• Quelle file doit recevoir le ticket ?
• Quelle est la gravité du problème ?
• Le message suggère-t-il un abus ?
• Une revue humaine est-elle nécessaire ?

Ajoutez unknown ou none_of_the_above lorsque votre liste d'options ne couvre peut-être pas tous les cas réels. Sans issue de secours, un classifieur fermé doit choisir une étiquette valide mais potentiellement trompeuse.

Étape 3 : appeler Jev via LangChain

Installez l'intégration et fournissez la clé API via votre environnement ou votre gestionnaire de secrets :

pip install langchain-typesafe
export TYPESAFE_API_KEY="your-api-key"

Créez ensuite une question typée :

from langchain_typesafe import Noul, TypeSafeClassifier

classifier = TypeSafeClassifier()

response = classifier.invoke(
    state=(
        "The deploy failed twice and customers are seeing 500s. "
        "Can someone look now?"
    ),
    questions={
        "urgent": Noul(
            instructions="Does this need attention right now?"
        ),
    },
)

urgency = response.nouls["urgent"].noul

Le résultat est une probabilité que votre politique peut comparer à un seuil. Ce n'est pas une instruction à exécuter en soi.

Étape 4 : construire une politique d'escalade

Utilisez plusieurs paliers plutôt qu'un seuil unique pour tous les cas :

high confidence + low consequence -> automatic action
medium confidence                -> LLM verification
low confidence                   -> human review
high consequence at any score    -> stronger control or approval

Définissez des seuils par action. Attribuer automatiquement une étiquette à un ticket et approuver automatiquement un paiement ne devraient jamais partager la même politique de risque simplement parce que les deux utilisent des probabilités.

Étape 5 : utiliser le routage et les garde-fous avec prudence

Le ModelRouterMiddleware expérimental de LangChain peut utiliser Jev pour envoyer les tâches simples vers un modèle rapide et les tâches complexes ou à enjeux élevés vers un modèle plus performant. Cela peut réduire l'usage du modèle complet sans obliger chaque requête à passer par l'option la moins chère.

Son AutoModeMiddleware expérimental applique Jev aux contrôles de risque des appels d'outils et peut bloquer un appel proposé avant son exécution. Conservez des contrôles déterministes autour des outils sensibles : listes d'autorisation, sandboxing, identifiants à portée limitée, limites de débit et approbation humaine restent nécessaires, car un classifieur peut produire des faux négatifs.

Étape 6 : évaluer sur vos propres données

TypeSafe annonce une latence de bout en bout de 70–500 ms, 0,042 $ par million de tokens d'entrée, et une sortie non facturée. Dans ses quatre évaluations de workflows, il indique que Jev atteint en moyenne 67,8 % d'accord avec des probabilités de référence, pour environ 0,0004 $ et 0,4 seconde par échantillon. Le même banc d'essai indique 67,9 % pour GPT-5.6 Terra à 0,0304 $ et 10,1 secondes, et 74,1 % pour GPT-5.6 Sol à 0,0836 $ et 23,3 secondes.

Ce sont des résultats publiés par le fournisseur, et non une prévision universelle. La référence est la prédiction moyenne de GPT-6 Astra et Fable 5.1, et non une vérité étiquetée par des humains. TypeSafe signale un biais possible de la part des auteurs des workflows et indique que les plus grands gains annoncés en vitesse et en coût se situent probablement dans le haut de la fourchette des améliorations réelles.

Avant la mise en production, comparez Jev à votre LLM actuel, à des règles simples et, lorsque c'est pertinent, à un modèle spécifique au domaine. Mesurez :

• La justesse, la précision et le rappel par classe.
• La calibration et le taux d'erreurs avec forte confiance.
• Le taux d'abstention et d'escalade.
• Les latences p50, p95 et p99 depuis la région de votre déploiement.
• Le coût de bout en bout de l'ensemble de la cascade, y compris les solutions de repli.
• Les performances en cas de décalage de distribution et face aux entrées adverses.

Étape 7 : ajouter des garde-fous opérationnels

La mise en production exige plus que la qualité du modèle :

• Journalisez la version de l'état, le schéma de questions, la probabilité, la confiance, la branche sélectionnée et le résultat ultérieur.
• Versionnez les prompts ou les instructions des questions, ainsi que les seuils de décision.
• Ajoutez des délais d'attente, des tentatives limitées, des disjoncteurs et un mécanisme de repli déterministe.
• Examinez séparément les erreurs à forte confiance : ce sont les défaillances d'automatisation les plus dangereuses.
• Surveillez la dérive et recalibrez les seuils à mesure que la population des entrées évolue.
• Maintenez les actions irréversibles ou réglementées derrière des contrôles techniques et humains plus stricts.

Les documents publics ne divulguent actuellement ni le nombre de paramètres de Jev, ni son architecture détaillée, ni la conception de la récompense RLCD, ni les courbes de calibration standard, ni le SLA de production, ni la latence de service p95/p99. Ces lacunes doivent devenir des questions d'évaluation, et non des hypothèses.

Quand ne faut-il pas utiliser Jev ?

Ne l'utilisez pas comme modèle principal lorsque vous avez besoin de conversation, de résumé, de génération de code, d'explications détaillées ou de raisonnement à long terme. Il est aussi un mauvais décideur unique pour les processus à enjeux élevés qui exigent une justification auditable. Dans un domaine fixe, un petit classifieur classique ou un reranker spécialisé peut être plus précis, moins coûteux à maintenir ou plus facile à valider.

FAQ

Jev est-il un LLM ?

Pas au sens classique d'un modèle de chat. Il traite un état textuel ou structuré, mais renvoie des types de décision prédéfinis plutôt qu'une prose générée.

« Pas d'hallucination » signifie-t-il que Jev ne peut pas se tromper ?

Non. La forme de la sortie peut être garantie alors que la réponse sélectionnée est sémantiquement fausse. Interprétez cette affirmation comme une protection contre les erreurs de schéma et de type.

Jev remplace-t-il le modèle qui alimente un agent ?

En général, non. Il se positionne mieux comme un complément : Jev pour les décisions structurées rapides, un LLM pour le raisonnement et le langage, et le code ou les humains pour l'application des politiques.

Qu'est-ce que RLCD ?

TypeSafe le développe en Reinforcement Learning for Calibrated Decisions (apprentissage par renforcement pour des décisions calibrées), destiné à aligner la probabilité annoncée sur la justesse observée. Les sources publiques ne fournissent pas encore assez de détails d'entraînement ni de preuves standard de calibration pour un audit technique indépendant.

Que dois-je prototyper en premier ?

Choisissez une classification réversible, à fort volume, qui passe déjà par un LLM. Exécutez Jev en mode shadow, comparez ses décisions avec les résultats étiquetés, et n'introduisez l'automatisation qu'une fois les seuils et les replis validés.

Commencez par une décision mesurable

La proposition la plus forte de Jev n'est pas « remplacer chaque LLM ». Elle consiste à « cesser de payer un modèle génératif pour produire des décisions dont la forme est déjà connue ». Choisissez une branche de votre harnais d'agent, définissez l'erreur acceptable et la politique d'escalade, puis testez-la sur votre propre trafic.

Consultez l'introduction de TypeSafe AI aux System One Models et à Jev pour les affirmations et réserves d'origine concernant le modèle, ainsi que le guide de LangChain pour construire un harnais avec Jev pour l'intégration Python et les schémas de middleware.

Commencer à utiliser Jev avec AIHubMix

AIHubMix a ajouté la prise en charge de Jev, offrant aux développeurs un point d'accès unique à ce nouveau modèle de décision, aux côtés d'autres modèles d'IA de premier plan.

Rendez-vous sur AIHubMix pour essayer Jev et transformer une branche connue de votre workflow en expérimentation mesurable. Commencez par une tâche de classification ou de notation réversible, définissez votre seuil de réussite et gardez un LLM ou un humain en repli pendant l'évaluation des résultats.