Jev 最好理解为软件的决策层。它读取文本或结构化状态，然后返回预定义的分类、评分以及是/否概率。它不会为用户撰写回答。这种更窄的接口使其适用于 AI 智能体内部高并发的路由、分诊、验证和护栏步骤。
实用的模式很简单：让 Jev 做频繁且可逆的判断；让业务代码执行策略；把不确定或后果严重的情况升级给能力更强的 LLM 或人工处理。
如果你对 Jev 还不熟悉，最简短的解释是：Jev 是 TypeSafe AI 新发布的 AI 决策模型，它更像一条语义上的 if 语句，而不是聊天机器人。你提供上下文和一组固定问题，它返回类型化的选项、分数和概率，应用代码可以直接使用。
什么是 Jev？
TypeSafe AI 将 Jev 称为其首个 System One 模型，借用了 System 1/System 2 区分中“快速”的一面。请求中提供程序状态和类型化问题。Jev 并行评估这些问题，并返回概率和置信度，软件可以直接使用。
可用的问题类型包括：
Noul：用于判断一个是非陈述为真的概率。Choice：用于从预定义选项中选择，并返回概率分布和置信度。Score：用于对有序等级进行评分，并返回分数、底层分布和置信度。
与自回归 LLM 不同，Jev 不会生成任意字符串。TypeSafe 表示，这使得模式匹配有保障：响应不会凭空添加字段，也不会返回错误的数据类型。但它仍可能选错有效答案，因此不能把类型安全说成语义上绝不出错。
Jev 在智能体架构中处于什么位置？
当系统需要受约束的判断时，可在状态变化之间使用 Jev：
User or tool result
-> Jev: classify, score, route, or check risk
-> application policy
-> execute a low-risk action
-> call an LLM for reasoning or language
-> request human review
这与 LLM 是互补关系。LLM 负责开放式推理、解释和内容生成。Jev 负责那些可能答案事先已知的重复性问题。
为每项工作选择合适的层
Jev 最容易被理解为更大自动化栈中的一个组件：
| 层级 | 最适合的用途 |
|---|---|
| Jev | 重复性的分类、评分、路由和风险检查 |
| LLM | 复杂推理、解释和文本生成 |
| 应用代码 | 确定性规则、权限和执行 |
| 人工审核人员 | 高风险、模糊或例外情况 |
这种分工正是 Jev 的产品理念：模型不必决定一切，也不必说明一切。它把模糊的语义上下文转化为类型化的概率信号，而周围的系统仍负责策略和行动。
第 1 步：选择合适的首个工作流
从一个现有的、高并发、且已经使用 LLM 加结构化输出的决策开始。合适的候选包括：支持工单路由、内容质量检查、智能体轨迹审查、文档分诊和模型选择。
避免从不可逆、涉及法律敏感性，或者最大准确度比延迟和成本更重要的决策入手。也应避免那些需要自然语言输出或可审计解释的任务：Jev 返回的是决策和概率，而不是推理叙述。
第 2 步：定义状态和问题
让状态包含做出决策所需的证据，但把策略保留在应用代码中。尽可能把宽泛的请求拆分为相互独立的问题。
以支持工作流为例，一次请求可以提出以下问题：
- 工单应该分配到哪个队列？
- 问题的严重程度如何？
- 消息内容是否暗示滥用？
- 是否需要人工审核？
当你的选项列表可能无法覆盖所有实际情况时，添加 unknown 或 none_of_the_above 。如果没有这样的退出路径，封闭式分类器就必须选择一个有效但可能误导的标签。
第 3 步：通过 LangChain 调用 Jev
安装集成组件，并通过环境变量或密钥管理器提供 API 密钥：
pip install langchain-typesafe
export TYPESAFE_API_KEY="your-api-key"
然后创建一个类型化问题：
from langchain_typesafe import Noul, TypeSafeClassifier
classifier = TypeSafeClassifier()
response = classifier.invoke(
state=(
"The deploy failed twice and customers are seeing 500s. "
"Can someone look now?"
),
questions={
"urgent": Noul(
instructions="Does this need attention right now?"
),
},
)
urgency = response.nouls["urgent"].noul
结果是一个概率，你的策略可以将其与阈值进行比较。它本身并不是一条可直接执行的指令。
第 4 步：构建升级策略
使用多个区间，而不是单一的通用截止值：
high confidence + low consequence -> automatic action
medium confidence -> LLM verification
low confidence -> human review
high consequence at any score -> stronger control or approval
按动作设置阈值。自动为工单打标签与自动批准付款不应共用同一风险策略，即使两者都使用概率。
第 5 步：谨慎使用路由和护栏
LangChain 的实验性 ModelRouterMiddleware 可以利用 Jev，将简单任务发送给快速模型，把复杂或高风险任务发送给能力更强的模型。这样可以减少完整模型的使用，又不必强制所有请求都走最便宜的选项。
其实验性的 AutoModeMiddleware 将 Jev 用于工具调用的风险检查，并可以在执行前阻止拟议的调用。对敏感工具仍需保留确定性控制：白名单、沙箱隔离、限定范围的凭证、速率限制和人工审批依然必不可少，因为分类器可能产生漏报。
第 6 步：基于你自己的数据进行评估
TypeSafe 报告端到端延迟为 70–500 ms，输入每百万 token 收费 $0.042，输出不计费。在其四个工作流评估中，它报告 Jev 与参考概率的平均一致率为 67.8%，每个样本成本约 $0.0004，耗时 0.4 秒。同一测试框架下，GPT-5.6 Terra 的结果为 67.9%，成本 $0.0304，耗时 10.1 秒；GPT-5.6 Sol 的结果为 74.1%，成本 $0.0836，耗时 23.3 秒。
这些是供应商发布的结果，并非普适的预测。参考答案是 GPT-6 Astra 和 Fable 5.1 的平均预测，而不是人工标注的真实值。TypeSafe 也指出了可能存在的工作流作者偏差，并表示最大的速度和成本提升宣传数字，可能只是实际改进中的高端情况。
投入生产前，如条件允许，应将 Jev 与你当前的 LLM、简单规则以及特定领域模型进行比较。需要衡量以下指标：
- 按类别统计的准确率、精确率和召回率。
- 校准度和高置信度错误率。
- 弃权率和升级率。
- 从你部署区域测得的 p50、p95 和 p99 延迟。
- 包括回退在内的整个级联流程的端到端成本。
- 在分布偏移和对抗性输入下的表现。
第 7 步：增加运维保障措施
投入生产还需要模型质量之外的更多条件：
- 记录状态版本、问题模式、概率、置信度、所选分支以及后续结果。
- 对提示词或问题说明以及决策阈值进行版本管理。
- 添加超时、有上限的重试、熔断器和确定性的回退机制。
- 单独审查高置信度错误；它们是最危险的自动化故障。
- 监控数据漂移，并随输入群体的变化重新校准阈值。
- 不可逆或受监管的操作应置于更严格的技术和人工控制之后。
目前公开材料并未披露 Jev 的参数量、详细架构、RLCD 奖励设计、标准校准曲线、生产环境服务等级协议，或 p95/p99 服务延迟。这些空白应转化为评估问题，而不是被当作既定假设。
什么时候不应使用 Jev？
当你需要对话、摘要、代码生成、详细解释或长链条推理时，不要把 Jev 作为主模型。对于需要可审计理由的高风险流程，它也不适合作为唯一的决策者。在固定领域中，传统的小型分类器或专用重排序模型可能更准确、自行维护成本更低，或更容易验证。
常见问题
Jev 是 LLM 吗？
不是传统聊天模型意义上的 LLM。它接收文本或结构化状态，但返回的是预定义的决策类型，而非生成的文本。
“无幻觉”是否意味着 Jev 不会出错？
不是。输出的结构可以得到保证，但所选答案在语义上仍可能是错的。应将这一说法理解为对模式和类型错误的防护。
Jev 会取代为智能体提供动力的模型吗？
通常不会。它更适合作为补充：Jev 负责快速的结构化决策，LLM 负责推理和语言，代码或人工负责策略执行。
什么是 RLCD？
TypeSafe 将其全称解释为 Reinforcement Learning for Calibrated Decisions（面向校准决策的强化学习），旨在使报告的概率与观察到的正确性相一致。目前公开资料尚未提供足够的训练细节或标准校准证据，无法进行独立的技术审计。
我应该先原型验证什么？
选择一个已经通过 LLM 运行、高并发且可逆的分类任务。以影子模式运行 Jev，将其决策与带标签的结果进行比较，并且只有在阈值和回退机制经过验证后，才引入自动化。
从一个可衡量的决策开始
Jev 最有力的主张不是“取代每一个 LLM”，而是“不要再为已经具有已知结构的决策付费让生成式模型来完成”。在你的智能体框架中选择一个分支，定义可接受的错误和升级策略，然后用你自己的实际流量进行测试。
关于原始模型的主张和注意事项，请参阅 TypeSafe AI 的 System One 模型与 Jev 介绍 ；关于 Python 集成和中间件模式，请参阅 LangChain 的 使用 Jev 构建框架指南 。
开始通过 AIHubMix 使用 Jev
AIHubMix 已新增对 Jev 的支持，让开发者可以在一个平台上访问这一新的决策模型，以及其他领先的 AI 模型。
访问 AIHubMix 试用 Jev，并将工作流中一个已知分支转化为可衡量的实验。从一个可逆的分类或评分任务开始，定义你的成功阈值，并在评估结果期间保留 LLM 或人工回退方案。
