☰
24小时拿下近13%付费团队!这个“只做判断”的模型,戳中了Agent的命门?
2026/10/27 2:01:37 网站建设 项目流程

24小时拿下近13%付费团队。这个“只做判断”的模型,戳中了Agent的命门

——(上篇)讲清楚火爆全网的JEV

目录

01 很多交给大模型的任务,本来就只是“做判断”

02 Jev 真正重要的,不只是“选哪个”,而是“有多确定”

03 为什么 Jev 火在现在?

04 Jev 的优势来自“少做一件事”

05 Jev 更值得看的,是 AI 系统开始重新分工


今天这篇文章,我们想借 Jev 最近的走红做一次深度解读:

  • 一个不会聊天、不会写文章、只负责“做判断”的模型,为什么在这个时间点火起来?
  • 它和普通 LLM 到底差在哪里,又为什么恰好踩中了 Agent 时代的需求?
  • 它又是如何控制机器人的,以及进入机器人后站在哪一层?

过去几年,大模型几乎一直在朝同一个方向进化:

模型越来越大,上下文越来越长,推理过程也越来越复杂。以前模型几秒钟给答案,现在遇到困难任务,它可以先搜索、调用工具、反复检查,再花几十秒甚至几分钟组织回复。

但 2026 年 9 月,一款叫 Jev 的模型突然朝相反的方向走了。

它不聊天,不写文章,也不负责生成一长串推理过程。开发者给它一段上下文,再规定几个可能的答案,它只做一件事:

判断。

Jev 不需要先写一段分析,再从文字里提取答案,而是直接给出各个选项对应的概率,让后面的程序决定下一步做什么。

▲图1 | Jev 发布后在 Vercel AI Gateway 的采用速度迅速上升。真正值得注意的不只是“火得快”,而是一个几乎不做文本生成的专用决策模型,第一次获得了大规模开发者的集中关注。

9 月 15 日,TypeSafe AI 正式发布 Jev;几天后,Vercel 公布数据显示,Jev 接入 AI Gateway 后 24 小时内已经覆盖接近 13% 的付费团队,同期约为 GPT-5.6 系列的 2 倍、Fable 5.1 的 6 倍以上,成为该平台采用速度最快的新模型发布之一。

01 很多交给大模型的任务,本来就只是“做判断”

先看一个很普通的客服场景。

用户发来一句:“我上周已经取消订阅了,为什么今天又扣了一次钱?再不处理我就退款。”
一个“自动客服系统”真正需要弄明白的事情其实很有限:这是账单问题,还是产品使用问题?用户有没有明确要求退款?情绪是否已经激烈到需要人工介入?下一步继续自动处理,还是转给客服人员?

从软件角度看,这些问题最后都会落到这几个分支上。

但今天常见的做法,是把整段话交给一个通用大模型,再要求它“严格按照 JSON 格式返回结果”。哪怕最终只需要“账单问题”四个字(做选择题),背后调用的依然通常是一套“以文本生成为主要接口”的大模型(作文题)。

于是一个有点奇怪的工程现实出现了:

选一个分支,本来是个分类问题,一个几百 KB 的小模型或几行规则就能处理;但现在的工程惯例是:调用一个参数规模几十亿、按 token 计费、每次要跑几秒的大模型,让它先生成几百个字的文字

——模型最擅长的事,和程序实际需要的事,根本不是同一件。

Jev 的思路就是把这件事倒过来。

它仍然可以读取自然语言、日志、用户请求和各种上下文,但输出不再是一段自由文本,而是程序可以直接使用的“结构化判断和概率”。

TypeSafe 将 Jev 定义为第一款公开的 “System One Model”,并把它概括为:输入一份未经整理的状态,输出带类型、带概率的决策。

▲图2 | Browser Use 将 Jev 接进真实浏览器 Agent:Jev 不负责生成整段操作计划,而是在每一步直接选择“点击、输入、滚动还是结束”,以及具体操作哪个页面元素;只有真正需要输入文字时才调用生成模型。这个 Demo 很直观地展示了 Jev 与通用 LLM 的分工差异

TypeSafe 把这些判断主要分成三类:

  • 分类选择(Choice),例如判断一条工单应该交给账单客服、技术支持还是销售咨询;
  • 分级评分(Score),例如把风险、情绪或者相关性放到一个有顺序的等级上;
  • 二元判断(Noul),例如判断“这笔交易是否可能存在欺诈”。

同一段上下文下面还可以同时挂多个问题,一次判断用户属于什么问题、是否要求退款、情绪是否激烈、是否需要转人工。

所以如果把 Jev 压缩成一句话,就是:状态进来,判断出去。

普通大模型在努力扩大“我能生成什么”,Jev 则主动把输出空间收窄成“这几个答案里我选哪个”。

02 Jev 真正重要的,不只是“选哪个”,而是“有多确定”

只做分类,其实并不新鲜。Jev 直接把概率放进了软件接口里。

假设系统需要判断一条工单应该交给哪个团队。

第一种结果是:账单客服:99%;技术支持:0.5%;销售咨询:0.5%

第二种结果是:账单客服:36%;技术支持:34%;销售咨询:30%

两个结果排在第一位的都是“账单客服”,但对于真正的软件系统来说,它们显然不能被同样处理。

▲图3 | “第一名是谁”只解决了分类问题,概率分布则进一步告诉程序这个判断究竟有多稳。对于自动化系统来说,这决定了下一步是直接执行、增加一次复核,还是把任务交给人工。

第一种情况下,程序可能可以直接转交;第二种情况下,更合理的做法可能是再检查一次,或者直接交给人工。

所以 Jev 想提供的不只是答案,还有模型对这个答案到底有多大把握。

这件事对自动化系统尤其重要。

过去我们经常把 AI 接进业务流程,然后让它表现得像一个永远会回答的人。但真正的生产系统更关心另一件事:

当模型不确定的时候,它能不能把这种不确定性也交给程序?

这样代码就可以自己规定规则:把握很高,自动执行;处在灰区,再检查一次;把握太低,交给人工。模型负责理解传统规则很难写清的模糊语义,代码负责权限、阈值和最终动作。

这也是 TypeSafe 给 Jev 的训练路线起名 RLCD(Reinforcement Learning for Calibrated Decisions,面向校准决策的强化学习) 的原因。

它强调的不只是“答对”,还希望模型给出的概率能够真实反映自己的不确定程度。

这看起来只是多返回了几个数字,实际上却改变了模型和软件的关系。

普通聊天模型的输出主要是给人看的;Jev 的输出从一开始就是给程序继续往下执行的。

03 为什么 Jev 火在现在?

如果 Jev 早几年出现,它未必会像现在这么受关注。

聊天机器人时代,大模型最重要的输出就是文字:用户问问题,模型回答;用户让它写代码,模型生成代码;用户让它总结材料,模型给出摘要。

但进入 Agent 之后,情况开始变了,因为 Agent 里到处都是这种“小判断”

一个智能体真正完成任务的过程中,和用户说话的次数可能并不多,内部却会不断发生大量判断:

下一步调用哪个工具?搜索结果够不够?刚才的工具是不是失败了?失败以后应该重试还是换一种方法?这次操作风险高不高?当前结果需不需要再验证?任务到底完成没有?是不是应该停止?

这些判断很多都很短,却会在一次任务里反复发生。

Vercel 在介绍 Jev 时列出的使用场景就集中在这些位置:选择 Agent 下一步使用的工具或子智能体、判断工作流应该继续还是停止、给操作做风险评分、验证模型输出,以及把不确定案例转给人工。

于是,Jev 在 Agent 里最自然的位置,并不是替代负责理解和规划的大模型,而是站在这些高频决策点上。

▲图4 | 开源项目 JevPilot 把 Jev 放进一个实时驾驶模拟器中。传统代码负责生成可行轨迹、计算道路边界和处理安全约束,Jev 则根据当前交通状态快速判断下一条轨迹应该怎么选。这个案例很好地体现了 Jev 的位置:它不是取代整个系统,而是成为其中一个高频决策层。

换句话说,一个 Agent 不一定永远都是:大模型 → 工具 → 大模型 → 工具 → 大模型

它也可以逐渐形成更明确的分工:

大模型负责想清楚要做什么;Jev 这类决策模型负责快速判断下一步怎么走;代码负责真正执行和兜底。

这也是为什么 Jev 看上去能力更窄,却会在 Agent 快速发展的时间点突然变得有吸引力。

04 Jev 的优势来自“少做一件事”

TypeSafe 在 Jev 发布时给出了两个很抢眼的数字:

193.6 倍更快,444.6 倍更便宜。

这些数据来自 TypeSafe 自己设计的一组工作流测试,任务包括客服处理、安全事件、发票审核和 Agent 执行过程评估。

这些场景有一个共同特点:它们本来就更像判断题,而不是作文题。

所以 Jev 的效率优势并不难理解。

它主动放弃开放式生成,把任务限制在预设的候选结果里,也就不需要为了得到一个简单判断,先生成一长串最后会被程序丢掉的文字。

这也解释了 Jev 官网另一个很抓眼球的说法:Zero Hallucinations,零幻觉。

这里的重点不是“Jev 永远不会判断错”,而是它不会跑出开发者规定的答案范围。

如果系统只允许“继续、重试、询问用户、停止”四个选项,Jev 不会突然返回第五种奇怪答案,也不会在结果后面多写一段解释。它仍然可能选错,但输出始终被锁在程序能够处理的范围里。

这是一种非常工程化的取舍:不是让模型什么都能做,而是让它在一小类事情上更像软件组件。

而在 TypeSafe 之外,已经有开发者开始验证这种取舍到底有没有用。

  • 9 月 20 日,LangChain 团队把 Jev 放进 Agent 评测流程中,与几种通用大模型 Judge 进行比较。

在这组窄任务上,Jev 的二元判断与人工评审全部一致,平均单次调用约 0.44 秒;几种 LLM Judge 约为 2.16 至 2.83 秒。在连续评分上,Jev 的重复结果方差也明显更低。

▲图5 | LangChain 将 Jev 接入 Agent 评测后做的一组小规模对比。这里最值得看的不是谁在一张表里“赢了”,而是当任务被限定为重复、结构化判断时,专用决策模型确实出现了与通用 LLM 不同的效率曲线。

当模型的工作真的只是反复判断,专门为这种任务设计一套模型,可能确实比让通用大模型每次都完整生成更合适。

05 Jev 更值得看的,是 AI 系统开始重新分工

Jev 背后的 TypeSafe 创始人 Diogo Almeida,此前参与过 InstructGPT 的研究。

回头看 InstructGPT,那项工作的核心问题之一也是“模型到底在优化什么”。

GPT-3 的预训练目标是预测下一个 token,但用户真正需要的是:按照我的意图完成任务。

于是研究者通过人类反馈,把训练目标进一步推向“更符合用户指令”。

InstructGPT 论文中一个很有代表性的结果是,在人类偏好评估里,1.3B 参数的 InstructGPT 输出可以优于 175B 的原始 GPT-3。

几年以后,Almeida 又把类似的问题往前推了一步。如果最终接收模型结果的不是人,而是一段程序呢?

如果程序真正需要的只是:是或否;A、B、C 选一个;一个风险等级;或者一个继续执行的概率,那为什么还要先让模型生成一段自然语言?

TypeSafe 在 Jev 发布前的一篇文章里把这套思路概括成一句很直接的话:

doing the right task > data > compute > algorithms。

先确定模型到底应该解决什么问题,再讨论数据、算力和算法。

未来的 AI 系统可能会越来越像一个真正的软件系统:

  • 大语言模型负责开放式理解、推理、规划和生成;
  • Jev 这类决策模型负责分类、路由、评分、验证和流程门控;
  • 传统代码继续负责精确计算、权限控制、安全规则以及最终执行。

如果未来的 Agent 和自动化系统每天需要完成数以亿计的细小判断,那么真正重要的可能不是每一个模型都会不会写一篇漂亮的答案。

而是它能不能在需要的时候,快速、稳定地给程序一个可用的判断。

以及更关键的:当它不确定的时候,它能不能把这种不确定性也交给系统。

说到这里,Jev 还只是“软件里的一个组件”:状态进来,判断出去,判断错了大不了转人工。

放到机器人领域,可给不了这个余地:杯子已经开始从夹爪里滑落的时候,几秒后的正确答案和错误答案没有区别。

机器人身上一直有大量这种决定:目标丢了还是被挡住了、绕左还是绕右、继续还是刹车……它们都需要一点语义理解,又必须判断得足够快。

往往大模型推理一次的功夫,机器人已经需要做下一个决定了。

而 Jev 的能力边界:不生成、只判断、给概率,看上去正好落在这个缺口上。

也确实已经有不少工作把Jev放进机器人了,但看过这些项目就会注意到一件事:Jev 说了算的地方,远少于它说了不算的地方。

所以,Jev到底能替机器人决定什么,下一篇我们接着拆。

Ref

[1] Diogo Almeida,

Introducing System One Models & Jev, TypeSafe AI, 2026-09-15.https://typesafe.ai/blog/introducing-system-one-models-and-jev

[2] Amelia Charles, Harpreet Arora, Eric Dodds, Jev is the fastest-adopted model in AI Gateway history, Vercel, 2026-09-18.https://vercel.com/blog/ai-gateway-jev-model-launch

[3] TypeSafe AI, Home / System One Models & Jev product information.https://typesafe.ai/

[4] TypeSafe AI, Workflow Evals.https://evals.typesafe.ai/

[5] Daniel Shea, Seán Roche, Jev-as-a-Judge for Agent Evals, LangChain, 2026-09-20.https://www.langchain.com/blog/jev-agent-evals-langsmith

[6] Long Ouyang et al., Training language models to follow instructions with human feedback, 2022.https://arxiv.org/abs/2203.02155

[7] TypeSafe AI, The Bitterest Lesson, 2026-09-10.https://typesafe.ai/blog/bitterest-lesson

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询