24小时拿下近13%付费团队。这个“只做判断”的模型,戳中了Agent的命门
——(上篇)讲清楚火爆全网的JEV
目录
01 很多交给大模型的任务,本来就只是“做判断”
02 Jev 真正重要的,不只是“选哪个”,而是“有多确定”
03 为什么 Jev 火在现在?
04 Jev 的优势来自“少做一件事”
05 Jev 更值得看的,是 AI 系统开始重新分工
今天这篇文章,我们想借 Jev 最近的走红做一次深度解读:
- 一个不会聊天、不会写文章、只负责“做判断”的模型,为什么在这个时间点火起来?
- 它和普通 LLM 到底差在哪里,又为什么恰好踩中了 Agent 时代的需求?
- 它又是如何控制机器人的,以及进入机器人后站在哪一层?
过去几年,大模型几乎一直在朝同一个方向进化:
模型越来越大,上下文越来越长,推理过程也越来越复杂。以前模型几秒钟给答案,现在遇到困难任务,它可以先搜索、调用工具、反复检查,再花几十秒甚至几分钟组织回复。
但 2026 年 9 月,一款叫 Jev 的模型突然朝相反的方向走了。
它不聊天,不写文章,也不负责生成一长串推理过程。开发者给它一段上下文,再规定几个可能的答案,它只做一件事:
判断。
Jev 不需要先写一段分析,再从文字里提取答案,而是直接给出各个选项对应的概率,让后面的程序决定下一步做什么。
▲图1 | Jev 发布后在 Vercel AI Gateway 的采用速度迅速上升。真正值得注意的不只是“火得快”,而是一个几乎不做文本生成的专用决策模型,第一次获得了大规模开发者的集中关注。
9 月 15 日,TypeSafe AI 正式发布 Jev;几天后,Vercel 公布数据显示,Jev 接入 AI Gateway 后 24 小时内已经覆盖接近 13% 的付费团队,同期约为 GPT-5.6 系列的 2 倍、Fable 5.1 的 6 倍以上,成为该平台采用速度最快的新模型发布之一。
01 很多交给大模型的任务,本来就只是“做判断”
先看一个很普通的客服场景。
用户发来一句:“我上周已经取消订阅了,为什么今天又扣了一次钱?再不处理我就退款。”
一个“自动客服系统”真正需要弄明白的事情其实很有限:这是账单问题,还是产品使用问题?用户有没有明确要求退款?情绪是否已经激烈到需要人工介入?下一步继续自动处理,还是转给客服人员?
从软件角度看,这些问题最后都会落到这几个分支上。
但今天常见的做法,是把整段话交给一个通用大模型,再要求它“严格按照 JSON 格式返回结果”。哪怕最终只需要“账单问题”四个字(做选择题),背后调用的依然通常是一套“以文本生成为主要接口”的大模型(作文题)。
于是一个有点奇怪的工程现实出现了:
选一个分支,本来是个分类问题,一个几百 KB 的小模型或几行规则就能处理;但现在的工程惯例是:调用一个参数规模几十亿、按 token 计费、每次要跑几秒的大模型,让它先生成几百个字的文字
——模型最擅长的事,和程序实际需要的事,根本不是同一件。
Jev 的思路就是把这件事倒过来。
它仍然可以读取自然语言、日志、用户请求和各种上下文,但输出不再是一段自由文本,而是程序可以直接使用的“结构化判断和概率”。
TypeSafe 将 Jev 定义为第一款公开的 “System One Model”,并把它概括为:输入一份未经整理的状态,输出带类型、带概率的决策。
▲图2 | Browser Use 将 Jev 接进真实浏览器 Agent:Jev 不负责生成整段操作计划,而是在每一步直接选择“点击、输入、滚动还是结束”,以及具体操作哪个页面元素;只有真正需要输入文字时才调用生成模型。这个 Demo 很直观地展示了 Jev 与通用 LLM 的分工差异
TypeSafe 把这些判断主要分成三类:
- 分类选择(Choice),例如判断一条工单应该交给账单客服、技术支持还是销售咨询;
- 分级评分(Score),例如把风险、情绪或者相关性放到一个有顺序的等级上;
- 二元判断(Noul),例如判断“这笔交易是否可能存在欺诈”。
同一段上下文下面还可以同时挂多个问题,一次判断用户属于什么问题、是否要求退款、情绪是否激烈、是否需要转人工。
所以如果把 Jev 压缩成一句话,就是:状态进来,判断出去。
普通大模型在努力扩大“我能生成什么”,Jev 则主动把输出空间收窄成“这几个答案里我选哪个”。
02 Jev 真正重要的,不只是“选哪个”,而是“有多确定”
只做分类,其实并不新鲜。Jev 直接把概率放进了软件接口里。
假设系统需要判断一条工单应该交给哪个团队。
第一种结果是:账单客服:99%;技术支持:0.5%;销售咨询:0.5%
第二种结果是:账单客服:36%;技术支持:34%;销售咨询:30%
两个结果排在第一位的都是“账单客服”,但对于真正的软件系统来说,它们显然不能被同样处理。
▲图3 | “第一名是谁”只解决了分类问题,概率分布则进一步告诉程序这个判断究竟有多稳。对于自动化系统来说,这决定了下一步是直接执行、增加一次复核,还是把任务交给人工。
第一种情况下,程序可能可以直接转交;第二种情况下,更合理的做法可能是再检查一次,或者直接交给人工。
所以 Jev 想提供的不只是答案,还有模型对这个答案到底有多大把握。
这件事对自动化系统尤其重要。
过去我们经常把 AI 接进业务流程,然后让它表现得像一个永远会回答的人。但真正的生产系统更关心另一件事:
当模型不确定的时候,它能不能把这种不确定性也交给程序?
这样代码就可以自己规定规则:把握很高,自动执行;处在灰区,再检查一次;把握太低,交给人工。模型负责理解传统规则很难写清的模糊语义,代码负责权限、阈值和最终动作。
这也是 TypeSafe 给 Jev 的训练路线起名 RLCD(Reinforcement Learning for Calibrated Decisions,面向校准决策的强化学习) 的原因。
它强调的不只是“答对”,还希望模型给出的概率能够真实反映自己的不确定程度。
这看起来只是多返回了几个数字,实际上却改变了模型和软件的关系。
普通聊天模型的输出主要是给人看的;Jev 的输出从一开始就是给程序继续往下执行的。
03 为什么 Jev 火在现在?
如果 Jev 早几年出现,它未必会像现在这么受关注。
聊天机器人时代,大模型最重要的输出就是文字:用户问问题,模型回答;用户让它写代码,模型生成代码;用户让它总结材料,模型给出摘要。
但进入 Agent 之后,情况开始变了,因为 Agent 里到处都是这种“小判断”
一个智能体真正完成任务的过程中,和用户说话的次数可能并不多,内部却会不断发生大量判断:
下一步调用哪个工具?搜索结果够不够?刚才的工具是不是失败了?失败以后应该重试还是换一种方法?这次操作风险高不高?当前结果需不需要再验证?任务到底完成没有?是不是应该停止?
这些判断很多都很短,却会在一次任务里反复发生。
Vercel 在介绍 Jev 时列出的使用场景就集中在这些位置:选择 Agent 下一步使用的工具或子智能体、判断工作流应该继续还是停止、给操作做风险评分、验证模型输出,以及把不确定案例转给人工。
于是,Jev 在 Agent 里最自然的位置,并不是替代负责理解和规划的大模型,而是站在这些高频决策点上。
▲图4 | 开源项目 JevPilot 把 Jev 放进一个实时驾驶模拟器中。传统代码负责生成可行轨迹、计算道路边界和处理安全约束,Jev 则根据当前交通状态快速判断下一条轨迹应该怎么选。这个案例很好地体现了 Jev 的位置:它不是取代整个系统,而是成为其中一个高频决策层。
换句话说,一个 Agent 不一定永远都是:大模型 → 工具 → 大模型 → 工具 → 大模型
它也可以逐渐形成更明确的分工:
大模型负责想清楚要做什么;Jev 这类决策模型负责快速判断下一步怎么走;代码负责真正执行和兜底。
这也是为什么 Jev 看上去能力更窄,却会在 Agent 快速发展的时间点突然变得有吸引力。
04 Jev 的优势来自“少做一件事”
TypeSafe 在 Jev 发布时给出了两个很抢眼的数字:
193.6 倍更快,444.6 倍更便宜。
这些数据来自 TypeSafe 自己设计的一组工作流测试,任务包括客服处理、安全事件、发票审核和 Agent 执行过程评估。
这些场景有一个共同特点:它们本来就更像判断题,而不是作文题。
所以 Jev 的效率优势并不难理解。
它主动放弃开放式生成,把任务限制在预设的候选结果里,也就不需要为了得到一个简单判断,先生成一长串最后会被程序丢掉的文字。
这也解释了 Jev 官网另一个很抓眼球的说法:Zero Hallucinations,零幻觉。
这里的重点不是“Jev 永远不会判断错”,而是它不会跑出开发者规定的答案范围。
如果系统只允许“继续、重试、询问用户、停止”四个选项,Jev 不会突然返回第五种奇怪答案,也不会在结果后面多写一段解释。它仍然可能选错,但输出始终被锁在程序能够处理的范围里。
这是一种非常工程化的取舍:不是让模型什么都能做,而是让它在一小类事情上更像软件组件。
而在 TypeSafe 之外,已经有开发者开始验证这种取舍到底有没有用。
- 9 月 20 日,LangChain 团队把 Jev 放进 Agent 评测流程中,与几种通用大模型 Judge 进行比较。
在这组窄任务上,Jev 的二元判断与人工评审全部一致,平均单次调用约 0.44 秒;几种 LLM Judge 约为 2.16 至 2.83 秒。在连续评分上,Jev 的重复结果方差也明显更低。
▲图5 | LangChain 将 Jev 接入 Agent 评测后做的一组小规模对比。这里最值得看的不是谁在一张表里“赢了”,而是当任务被限定为重复、结构化判断时,专用决策模型确实出现了与通用 LLM 不同的效率曲线。
当模型的工作真的只是反复判断,专门为这种任务设计一套模型,可能确实比让通用大模型每次都完整生成更合适。
05 Jev 更值得看的,是 AI 系统开始重新分工
Jev 背后的 TypeSafe 创始人 Diogo Almeida,此前参与过 InstructGPT 的研究。
回头看 InstructGPT,那项工作的核心问题之一也是“模型到底在优化什么”。
GPT-3 的预训练目标是预测下一个 token,但用户真正需要的是:按照我的意图完成任务。
于是研究者通过人类反馈,把训练目标进一步推向“更符合用户指令”。
InstructGPT 论文中一个很有代表性的结果是,在人类偏好评估里,1.3B 参数的 InstructGPT 输出可以优于 175B 的原始 GPT-3。
几年以后,Almeida 又把类似的问题往前推了一步。如果最终接收模型结果的不是人,而是一段程序呢?
如果程序真正需要的只是:是或否;A、B、C 选一个;一个风险等级;或者一个继续执行的概率,那为什么还要先让模型生成一段自然语言?
TypeSafe 在 Jev 发布前的一篇文章里把这套思路概括成一句很直接的话:
doing the right task > data > compute > algorithms。
先确定模型到底应该解决什么问题,再讨论数据、算力和算法。
未来的 AI 系统可能会越来越像一个真正的软件系统:
- 大语言模型负责开放式理解、推理、规划和生成;
- Jev 这类决策模型负责分类、路由、评分、验证和流程门控;
- 传统代码继续负责精确计算、权限控制、安全规则以及最终执行。
如果未来的 Agent 和自动化系统每天需要完成数以亿计的细小判断,那么真正重要的可能不是每一个模型都会不会写一篇漂亮的答案。
而是它能不能在需要的时候,快速、稳定地给程序一个可用的判断。
以及更关键的:当它不确定的时候,它能不能把这种不确定性也交给系统。
说到这里,Jev 还只是“软件里的一个组件”:状态进来,判断出去,判断错了大不了转人工。
放到机器人领域,可给不了这个余地:杯子已经开始从夹爪里滑落的时候,几秒后的正确答案和错误答案没有区别。
机器人身上一直有大量这种决定:目标丢了还是被挡住了、绕左还是绕右、继续还是刹车……它们都需要一点语义理解,又必须判断得足够快。
往往大模型推理一次的功夫,机器人已经需要做下一个决定了。
而 Jev 的能力边界:不生成、只判断、给概率,看上去正好落在这个缺口上。
也确实已经有不少工作把Jev放进机器人了,但看过这些项目就会注意到一件事:Jev 说了算的地方,远少于它说了不算的地方。
所以,Jev到底能替机器人决定什么,下一篇我们接着拆。
Ref
[1] Diogo Almeida,
Introducing System One Models & Jev, TypeSafe AI, 2026-09-15.https://typesafe.ai/blog/introducing-system-one-models-and-jev
[2] Amelia Charles, Harpreet Arora, Eric Dodds, Jev is the fastest-adopted model in AI Gateway history, Vercel, 2026-09-18.https://vercel.com/blog/ai-gateway-jev-model-launch
[3] TypeSafe AI, Home / System One Models & Jev product information.https://typesafe.ai/
[4] TypeSafe AI, Workflow Evals.https://evals.typesafe.ai/
[5] Daniel Shea, Seán Roche, Jev-as-a-Judge for Agent Evals, LangChain, 2026-09-20.https://www.langchain.com/blog/jev-agent-evals-langsmith
[6] Long Ouyang et al., Training language models to follow instructions with human feedback, 2022.https://arxiv.org/abs/2203.02155
[7] TypeSafe AI, The Bitterest Lesson, 2026-09-10.https://typesafe.ai/blog/bitterest-lesson