Jev explicado: cómo añadir decisiones rápidas y tipadas a un agente de IA

Jev se entiende mejor como una capa de decisión para el software. Lee texto o estado estructurado y devuelve clasificaciones predefinidas, puntuaciones y probabilidades de sí o no. No escribe una respuesta para el usuario. Esta interfaz más acotada lo hace relevante para el enrutamiento de alto volumen, la clasificación por prioridad, la verificación y los pasos de protección dentro de los agentes de IA.

El patrón práctico es sencillo: deja que Jev haga juicios frecuentes y reversibles; deja que el código de negocio aplique la política; escala los casos inciertos o de consecuencias importantes a un LLM capaz o a una persona.

Si Jev te resulta nuevo, la explicación más breve es esta: Jev es un modelo de decisión de IA recién lanzado por TypeSafe AI que se comporta más como una sentencia if semántica que como un chatbot. Tú proporcionas el contexto y un conjunto fijo de preguntas; él devuelve opciones tipadas, puntuaciones y probabilidades que el código de la aplicación puede usar de inmediato.

¿Qué es Jev?

TypeSafe AI llama a Jev su primer modelo System One, tomando prestado el lado "rápido" de la distinción Sistema 1/Sistema 2. Una solicitud aporta el estado del programa y preguntas tipadas. Jev evalúa las preguntas en paralelo y devuelve probabilidades y valores de confianza que el software puede consumir directamente.

Los tipos de pregunta disponibles son:

1. Noul para la probabilidad de que una afirmación de sí o no sea verdadera.
2. Choice para seleccionar entre opciones predefinidas, con una distribución de probabilidad y confianza.
3. Score para valorar niveles ordenados, con una puntuación, una distribución subyacente y confianza.

A diferencia de un LLM autorregresivo, Jev no genera cadenas de texto arbitrarias. TypeSafe afirma que esto hace que la coincidencia con el esquema sea garantizada: la respuesta no puede inventar un campo ni devolver un tipo de dato incorrecto. Aun así, puede elegir la respuesta válida equivocada, por lo que la seguridad de tipos no debe presentarse como infalibilidad semántica.

¿Dónde encaja Jev en la arquitectura de un agente?

Usa Jev entre cambios de estado, cuando el sistema necesita un juicio acotado:

User or tool result
    -> Jev: classify, score, route, or check risk
        -> application policy
            -> execute a low-risk action
            -> call an LLM for reasoning or language
            -> request human review

Esto es complementario a un LLM. El LLM se encarga del razonamiento abierto, las explicaciones y el contenido generado. Jev se encarga de las preguntas repetidas cuyas posibles respuestas se conocen de antemano.

Elige la capa adecuada para cada tarea

Jev es más fácil de entender como un componente dentro de una pila de automatización más amplia:

Esta división es la idea de producto detrás de Jev: el modelo no decide todo y no necesita decirlo todo. Convierte un contexto semántico impreciso en una señal probabilística tipada, mientras que el sistema que lo rodea sigue siendo responsable de la política y de la acción.

Paso 1: elige el primer flujo de trabajo adecuado

Empieza con una decisión existente de alto volumen que ya use un LLM más una salida estructurada. Buenos candidatos son el enrutamiento de tickets de soporte, las comprobaciones de calidad de contenido, la revisión de trazas de agentes, la clasificación de documentos y la selección de modelos.

Evita empezar con una decisión irreversible, sensible desde el punto de vista legal o tan valiosa que la máxima precisión importe más que la latencia y el coste. También evita las tareas que requieren una salida en lenguaje natural o una explicación auditable: Jev devuelve decisiones y probabilidades, no una narrativa de razonamiento.

Paso 2: define el estado y las preguntas

Haz que el estado contenga la evidencia necesaria para la decisión, pero mantén la política en el código de la aplicación. Descompón una solicitud amplia en preguntas independientes siempre que sea posible.

Para un flujo de soporte, una solicitud podría preguntar:

• ¿Qué cola debe recibir el ticket?
• ¿Qué gravedad tiene el problema?
• ¿El mensaje sugiere abuso?
• ¿Se requiere revisión humana?

Añade unknown o none_of_the_above cuando tu lista de opciones pueda no cubrir todos los casos reales. Sin una vía de escape, un clasificador cerrado debe elegir una etiqueta válida pero potencialmente engañosa.

Paso 3: llama a Jev mediante LangChain

Instala la integración y proporciona la clave de API a través de tu entorno o de tu gestor de secretos:

pip install langchain-typesafe
export TYPESAFE_API_KEY="your-api-key"

Después crea una pregunta tipada:

from langchain_typesafe import Noul, TypeSafeClassifier

classifier = TypeSafeClassifier()

response = classifier.invoke(
    state=(
        "The deploy failed twice and customers are seeing 500s. "
        "Can someone look now?"
    ),
    questions={
        "urgent": Noul(
            instructions="Does this need attention right now?"
        ),
    },
)

urgency = response.nouls["urgent"].noul

El resultado es una probabilidad que tu política puede comparar con un umbral. No es, por sí solo, una instrucción para ejecutar.

Paso 4: construye una política de escalado

Usa varios niveles en lugar de un único umbral universal:

high confidence + low consequence -> automatic action
medium confidence                -> LLM verification
low confidence                   -> human review
high consequence at any score    -> stronger control or approval

Define los umbrales por acción. Asignar automáticamente una etiqueta a un ticket y aprobar automáticamente un pago nunca deberían compartir la misma política de riesgo solo porque ambos usen probabilidades.

Paso 5: usa el enrutamiento y las protecciones con cuidado

El ModelRouterMiddleware experimental de LangChain puede usar Jev para enviar el trabajo sencillo a un modelo rápido y el trabajo complejo o de alto riesgo a un modelo más capaz. Esto puede reducir el uso del modelo completo sin obligar a que cada solicitud pase por la opción más barata.

Su AutoModeMiddleware experimental aplica Jev a las comprobaciones de riesgo de llamadas a herramientas y puede bloquear una llamada propuesta antes de su ejecución. Mantén controles deterministas alrededor de las herramientas sensibles: listas de permitidos, sandboxing, credenciales con alcance limitado, límites de frecuencia y aprobación humana siguen siendo necesarios, porque un clasificador puede producir falsos negativos.

Paso 6: evalúa con tus propios datos

TypeSafe informa de una latencia de extremo a extremo de 70–500 ms, $0.042 por millón de tokens de entrada y salida sin medir. En sus cuatro evaluaciones de flujos de trabajo, informa de que Jev alcanza en promedio un 67.8% de concordancia con las probabilidades de referencia, con un coste de unos $0.0004 y 0.4 segundos por muestra. El mismo entorno de pruebas indica un 67.9% para GPT-5.6 Terra, con $0.0304 y 10.1 segundos, y un 74.1% para GPT-5.6 Sol, con $0.0836 y 23.3 segundos.

Estos son resultados publicados por el proveedor, no un pronóstico universal. La referencia es la predicción media de GPT-6 Astra y Fable 5.1, no una verdad etiquetada por humanos. TypeSafe señala un posible sesgo de los autores de los flujos de trabajo y afirma que las mayores ganancias destacadas en velocidad y coste probablemente se darán en el extremo alto de las mejoras del mundo real.

Antes de pasar a producción, compara Jev con tu LLM actual, con reglas simples y con un modelo específico del dominio cuando sea práctico. Mide:

• Exactitud, precisión y exhaustividad por clase.
• Calibración y tasa de errores con alta confianza.
• Tasa de abstención y de escalado.
• Latencia p50, p95 y p99 desde la región de tu despliegue.
• Coste de extremo a extremo de toda la cascada, incluidos los respaldos.
• Rendimiento ante cambios de distribución y entradas adversarias.

Paso 7: añade salvaguardas operativas

La preparación para producción requiere más que la calidad del modelo:

• Registra la versión del estado, el esquema de la pregunta, la probabilidad, la confianza, la rama seleccionada y el resultado posterior.
• Versiona los prompts o las instrucciones de las preguntas y los umbrales de decisión.
• Añade tiempos de espera, reintentos acotados, cortacircuitos y un respaldo determinista.
• Revisa por separado los errores con alta confianza; son los fallos de automatización más peligrosos.
• Supervisa la deriva y recalibra los umbrales a medida que cambie la población de entradas.
• Mantén las acciones irreversibles o reguladas detrás de controles técnicos y humanos más estrictos.

El material público no revela actualmente el número de parámetros de Jev, su arquitectura detallada, el diseño de recompensas de RLCD, las curvas de calibración estándar, el SLA de producción ni la latencia de servicio p95/p99. Esas lagunas deben convertirse en preguntas de evaluación, no en supuestos.

¿Cuándo no debes usar Jev?

No uses Jev como modelo principal cuando necesites conversación, resúmenes, generación de código, explicaciones detalladas o razonamiento a largo plazo. Tampoco es un buen único decisor para procesos de alto riesgo que requieren una justificación auditable. En un dominio fijo, un clasificador pequeño convencional o un reranker especializado puede ser más preciso, más barato de mantener o más fácil de validar.

Preguntas frecuentes

¿Jev es un LLM?

No en el sentido convencional de modelo de chat. Consume estado textual o estructurado, pero devuelve tipos de decisión predefinidos en lugar de prosa generada.

¿"Sin alucinaciones" significa que Jev no puede equivocarse?

No. Se puede garantizar la forma de la salida mientras la respuesta seleccionada sea semánticamente incorrecta. Interpreta la afirmación como una protección frente a errores de esquema y de tipo.

¿Jev reemplaza al modelo que impulsa un agente?

Normalmente no. Está mejor posicionado como complemento: Jev para decisiones estructuradas y rápidas, un LLM para el razonamiento y el lenguaje, y el código o las personas para aplicar la política.

¿Qué es RLCD?

TypeSafe lo expande como Reinforcement Learning for Calibrated Decisions (aprendizaje por refuerzo para decisiones calibradas), pensado para alinear la probabilidad informada con la corrección observada. Las fuentes públicas aún no ofrecen suficiente detalle de entrenamiento ni evidencia estándar de calibración para una auditoría técnica independiente.

¿Qué debo prototipar primero?

Elige una clasificación reversible de alto volumen que ya pase por un LLM. Ejecuta Jev en modo sombra, compara las decisiones con los resultados etiquetados e introduce la automatización solo después de validar los umbrales y los respaldos.

Empieza con una decisión medible

La propuesta más sólida de Jev no es "reemplazar todos los LLM". Es "dejar de pagar a un modelo generativo para producir decisiones que ya tienen una forma conocida". Elige una rama en tu arnés de agentes, define el error aceptable y la política de escalado, y pruébala con tu propio tráfico.

Usa la introducción de TypeSafe AI a los modelos System One y a Jev para conocer las afirmaciones originales del modelo y sus advertencias, y la guía de LangChain para construir un arnés con Jev para la integración en Python y los patrones de middleware.

Empieza a usar Jev con AIHubMix

AIHubMix ha añadido soporte para Jev, ofreciendo a los desarrolladores un único lugar para acceder al nuevo modelo de decisión junto con otros modelos de IA líderes.

Visita AIHubMix para probar Jev y convertir una rama conocida de tu flujo de trabajo en un experimento medible. Empieza con una tarea reversible de clasificación o puntuación, define tu umbral de éxito y mantén un respaldo con LLM o humano mientras evalúas los resultados.