最適合將 Jev 理解為軟體的決策層。它會讀取文字或結構化狀態，並回傳預先定義的分類、分數，以及是非機率。它不會替使用者撰寫答案。這種更精簡的介面，讓它適用於 AI Agent 中高流量的路由、分流、驗證與防護欄步驟。
實際採用的模式很簡單：讓 Jev 負責頻繁且可復原的判斷；由業務程式碼執行政策；不確定或影響重大的案例則升級交由能力更強的 LLM 或人工處理。
如果你對 Jev 還不熟，最簡單的說法是：Jev 是 TypeSafe AI 最新推出的 AI 決策模型，運作方式更像語意版的 if 陳述式，而不是聊天機器人。你提供上下文和一組固定問題；它會回傳具型別的選項、分數和機率，應用程式碼可立即使用這些結果。
什麼是 Jev？
TypeSafe AI 稱 Jev 為其首款 System One Model，借用了 System 1/System 2 區分中「快速」的一面。請求會提供程式狀態和具型別的問題。Jev 會平行評估這些問題，並回傳軟體可直接使用的機率與信心值。
可用的問題類型如下：
Noul用於表示是非陳述為真的機率。Choice用於從預先定義的選項中選擇，並提供機率分布與信心值。Score用於評定有序級別，並提供分數、底層分布與信心值。
與自回歸 LLM 不同，Jev 不會產生任意字串。TypeSafe 表示，這能確保符合結構描述：回應不會憑空產生欄位，也不會回傳錯誤的資料型別。但它仍可能選錯有效答案，因此不能將型別安全描述成語意上絕不出錯。
Jev 適合放在 Agent 架構中的哪個位置？
在系統狀態變更之間，若需要受限制的判斷，就使用 Jev：
User or tool result
-> Jev: classify, score, route, or check risk
-> application policy
-> execute a low-risk action
-> call an LLM for reasoning or language
-> request human review
這與 LLM 是互補關係。LLM 負責開放式推理、解釋和內容生成。Jev 則處理答案已預先確定的一再出現的問題。
為每項工作選擇適合的層級
將 Jev 視為大型自動化堆疊中的一個元件，最容易理解：
| 層級 | 最適合用途 |
|---|---|
| Jev | 重複性的分類、評分、路由和風險檢查 |
| LLM | 複雜推理、解釋和文字生成 |
| 應用程式碼 | 確定性規則、權限和執行 |
| 人工審核者 | 高風險、模糊或例外案例 |
這就是 Jev 背後的產品理念：模型不會什麼都決定，也不需要什麼都說。它將模糊的語意上下文轉換為具型別的機率訊號，同時由周邊系統負責政策與行動。
步驟 1：選擇合適的第一個工作流程
從現有的高流量決策開始，尤其是目前已使用 LLM 加上結構化輸出的流程。適合的候選包括支援工單路由、內容品質檢查、Agent 執行軌跡審查、文件分流和模型選擇。
避免從不可逆、涉及法律敏感事項，或重要到準確度遠比延遲和成本重要的決策開始。也應避免需要自然語言輸出或可稽核解釋的任務：Jev 回傳的是決策和機率，而非推理過程說明。
步驟 2：定義狀態和問題
狀態應包含做出決策所需的證據，但政策應留在應用程式碼中。盡可能將廣泛的請求拆解為彼此獨立的問題。
以支援工作流程為例，單一請求可以詢問：
- 這張工單應分配至哪個佇列？
- 問題的嚴重程度如何？
- 這則訊息是否暗示有濫用行為？
- 是否需要人工審查？
如果選項清單可能無法涵蓋所有實際情況，請加入 unknown 或 none_of_the_above。沒有可退出的選項時，封閉式分類器就必須選擇一個有效但可能造成誤導的標籤。
步驟 3：透過 LangChain 呼叫 Jev
安裝整合套件，並透過環境變數或密碼管理工具提供 API 金鑰：
pip install langchain-typesafe
export TYPESAFE_API_KEY="your-api-key"
接著建立具型別的問題：
from langchain_typesafe import Noul, TypeSafeClassifier
classifier = TypeSafeClassifier()
response = classifier.invoke(
state=(
"The deploy failed twice and customers are seeing 500s. "
"Can someone look now?"
),
questions={
"urgent": Noul(
instructions="Does this need attention right now?"
),
},
)
urgency = response.nouls["urgent"].noul
結果會提供一個機率，供你的政策與門檻比較。它本身不是執行指令。
步驟 4：建立升級處理政策
使用多個區間，而非一個適用所有情況的單一門檻：
high confidence + low consequence -> automatic action
medium confidence -> LLM verification
low confidence -> human review
high consequence at any score -> stronger control or approval
應依據各項行動分別設定門檻。自動指派工單標籤和自動核准付款，絕不應僅因兩者都使用機率，就採用相同的風險政策。
步驟 5：謹慎使用路由與防護欄
LangChain 的實驗性 ModelRouterMiddleware 可運用 Jev 將簡單工作交給快速模型，並將複雜或風險較高的工作交給能力更強的模型。這能減少完整模型的使用量，同時不必強迫每個請求都使用最便宜的選項。
實驗性 AutoModeMiddleware 會將 Jev 用於工具呼叫風險檢查，並可在執行前阻擋預定的呼叫。對敏感工具仍須採用確定性控制：允許清單、沙箱、限縮權限的憑證、速率限制和人工核准仍不可或缺，因為分類器可能出現偽陰性。
步驟 6：使用自己的資料進行評估
TypeSafe 表示，端到端延遲為 70–500 ms，每百萬個輸入 token 的費用為 $0.042，輸出則不計量。在四項工作流程評估中，TypeSafe 報告 Jev 與參考機率的平均一致度為 67.8%，每筆樣本約需 $0.0004 和 0.4 秒。同一測試框架報告 GPT-5.6 Terra 的一致度為 67.9%，費用為 $0.0304、時間為 10.1 秒；GPT-5.6 Sol 則為 74.1%，費用為 $0.0836、時間為 23.3 秒。
這些是廠商公布的結果，並非放諸四海皆準的預測。其參考值是 GPT-6 Astra 和 Fable 5.1 的平均預測，而非人工標註的真實值。TypeSafe 提到，工作流程設計者可能帶有偏見，並表示實際使用中，最顯著的速度與成本效益很可能接近現實改善幅度的高標。
上線前，請在可行的情況下，將 Jev 與目前使用的 LLM、簡單規則及特定領域模型比較。測量以下項目：
- 各類別的準確率、精確率和召回率。
- 校準情況和高信心錯誤率。
- 棄答與升級處理比例。
- 從部署區域測得的 p50、p95 和 p99 延遲。
- 包含備援方案在內，整個串接流程的端到端成本。
- 在分布偏移和對抗性輸入下的效能。
步驟 7：加入營運防護措施
要達到正式環境的就緒狀態，光有模型品質還不夠：
- 記錄狀態版本、問題結構描述、機率、信心值、選取的分支和後續結果。
- 為提示詞或問題指示，以及決策門檻進行版本管理。
- 加入逾時、次數受限的重試、斷路器和確定性備援方案。
- 單獨檢視高信心錯誤；這是自動化失誤中最危險的一類。
- 監控漂移，並隨著輸入資料族群變化重新校準門檻。
- 不可逆或受法規管制的行動，應設置更嚴格的技術和人工控管。
目前公開資料尚未揭露 Jev 的參數量、詳細架構、RLCD 獎勵設計、標準校準曲線、正式環境 SLA，或服務的 p95/p99 延遲。這些資訊缺口應列為評估問題，而非自行假設。
什麼時候不該使用 Jev？
如果你需要對話、摘要、程式碼生成、詳細解釋或長期推理，就不要把 Jev 當作主要模型。對於需要可稽核理由的高風險流程，Jev 也不適合單獨負責決策。在固定領域中，傳統的小型分類器或專用重排模型可能更準確、維運成本更低，或更容易驗證。
常見問題
Jev 是 LLM 嗎？
若以傳統聊天模型的概念來說，並不是。它會接收文字或結構化狀態，但回傳的是預先定義的決策類型，而非生成的文字內容。
「不會幻覺」是否代表 Jev 不會出錯？
不是。輸出格式可以有保證，但選出的答案在語意上仍可能錯誤。應將這項說法理解為可避免結構描述和型別錯誤。
Jev 會取代驅動 Agent 的模型嗎？
通常不會。更適合的定位是互補：Jev 負責快速的結構化決策，LLM 負責推理與語言，而程式碼或人工負責執行政策。
什麼是 RLCD？
TypeSafe 將其全名解釋為 Reinforcement Learning for Calibrated Decisions，目的是讓回報的機率與實際觀察到的正確率一致。目前公開資料尚未提供足夠的訓練細節或標準校準證據，無法進行獨立的技術稽核。
我應該先製作什麼原型？
選擇一項目前由 LLM 處理、流量高且可復原的分類任務。先以影子模式執行 Jev，將其決策與標註結果比較，確認門檻和備援方案經過驗證後，再導入自動化。
從一項可量化的決策開始
Jev 最具吸引力的主張並不是「取代每個 LLM」，而是「不必再付費讓生成式模型產生形狀早已確定的決策」。在 Agent 執行框架中挑選一個分支，定義可接受的錯誤和升級處理政策，並使用自己的流量進行測試。
TypeSafe AI 的 System One Models 與 Jev 介紹 提供原始的模型主張與注意事項；LangChain 的 使用 Jev 建構執行框架指南 則介紹 Python 整合方式和中介軟體模式。
透過 AIHubMix 開始使用 Jev
AIHubMix 已新增 Jev 支援，讓開發者能在同一處存取這款全新的決策模型，並使用其他領先的 AI 模型。
造訪 AIHubMix 試用 Jev，將工作流程中一個已知分支轉化為可量化的實驗。從可復原的分類或評分任務開始，設定成功門檻，並在評估結果期間保留 LLM 或人工備援方案。
