文章目录
- 一、一句话结论
- 二、Jev 是什么
- 三、它怎么做决策:三种问题 + 单次并行 + 隐状态打分
- 四、技术内核:RLCD 与"系统一"
- 五、规格与价格(含渠道与独立实测)
- 六、与 LLM 及结构化输出的对比
- 七、生态、资本与新对手(10 月新增)
- 八、"不能幻觉"的真相与能力边界
- 九、相关内容(一):APUS 开源复现与 Harness
- 十、可运行应用:Jev 多场景「决策中台」
- 十一、横向实测:Jev 与 Laya / jeff / Fastino 四强对比
- 1. 四强速览表(截至 2026-10)
- 2. 几个必须分清的口径陷阱
- 3. 怎么选(落地决策树)
- 4. 一句话总结
- 十二、我的判断(更新版)
- 参考与延伸阅读
一、一句话结论
Jev 不是又一个聊天模型,而是被官方称为 “System One(系统一)” 的决策模型:它不生成文本,把分类、选择、评分、真伪判断这类高频原子决策,直接返回成带概率的结构化答案,让代码直接分支。它的价值不在"更聪明地写",而在"更便宜、更快、更可控地判断"——并把"判断"从 LLM 的通用能力里显式剥离成一个新品类。
截至 10 月中旬,这个品类已经成立:资本(a16z 领投 8.7 亿美元)、生态(Vercel / LangChain / Cloudflare 集体集成)和对手(Fastino、Laya 等)都已就位。
二、Jev 是什么
Jev 由TypeSafe AI发布,时间线与基本面如下:
| 维度 | 内容 |
|---|---|
| 出品方 | TypeSafe AI(2024 年成立于旧金山,蛰伏研发约两年) |
| 创始人 | Diogo Almeida(前 OpenAI 研究员,InstructGPT 论文第四作者、RLHF 关键贡献者)、Erik Gafni、Sasha Sheng(前 Meta 研究工程师) |
| 发布 | 2026-09-15 早期访问;9-21 全面开放(撤销 waitlist),赠送 $5 额度 |
| 当前版本 | jev-1.13.0(别名jev-latest、jev-preview,建议生产环境锁定具体版本) |
| 形态 | 闭源、托管 API,未开放权重;无公开架构论文,训练数据仅说明为合成数据 |
| 规模 | 外界估计约 40B 参数(报道口径,非官方确认) |
| 上下文 | 单请求预算 64K tokens(其中 state + 最长单问 32K),即有效上下文约 32K |
| 渠道 | TypeSafe API、Vercel AI Gateway、Netlify、Cloudflare、LiteLLM、OpenRouter、OpenCode Zen |
核心交互范式:你传入一段"状态"(state,文本或 JSON/数组,如工单、邮件、日志),再附若干预定义"问题",Jev 在一次并行前向计算里返回每个问题的答案 + 概率分布 + 置信分。它不做 token-by-token 生成,因此从机制上不会产生 schema 之外的输出——这正是它与 LLM 的根本分野。
三、它怎么做决策:三种问题 + 单次并行 + 隐状态打分
Jev 把"判断"抽象成三类强类型问题,一次请求最多并发 8 问,且共享同一份输入成本:
- Choice(选择):从你定义的候选集中挑一个(最多 255 项),返回胜出项 + 每项概率 + 置信分。用途:意图分类、工单路由、“该用哪个模型”。
- Score(评分):把你用文字描述的 2–10 级量规套到输入上,返回连续分值。用途:紧急度、风险、线索质量、审核优先级。
- Noul(是非概率):取自 Bernoulli 分布,返回"某陈述为真"的校准概率(0–1)。用途:“是否升级人工?”"这次工具调用是否放行?"的门控。
核心机制(决定它为什么快):Jev 跳过自回归解码,直接对隐状态打分,用单 Token Logits 完成决策,并采用 KV-Cache 广播 + 并发批量评估。所有问题在同一 state 上一次前向完成,而非逐 token 生成——加问题几乎不增加延迟,只增加约 13 tokens/问的输入。
💡关键纪律:Jev 只做"判断分支",不执行动作。它能说"这是 billing 工单",但不会真去退款;动作仍由你的业务代码完成。这是它能放心接进生产链路的前提。
四、技术内核:RLCD 与"系统一"
1. 训练方法 RLCD(Reinforcement Learning for Calibrated Decisions,校准决策的强化学习)
区别于优化"人类偏好"的 RLHF,RLCD 优化概率与实际正确率对齐:若 Jev 说"80% 确定",长期应有约 80% 是对的。这种"校准"让置信分可直接做阈值——高分自动执行,低分转人工或调更强模型。
2. 命名取向:System One / System Two
借自 Daniel Kahneman《思考,快与慢》:System 2(慢思考)= LLM 逐步推理、逐字生成;System 1(快思考)= Jev 专攻的直觉式快速判断。TypeSafe 的论点是:很多我们让聊天模型做的事,本质是披着 System 2 外衣的 System 1 工作,却在付 System 2 的价。
3. 彩蛋:Jevons 悖论
Jev 之名取自 19 世纪经济学家 William Stanley Jevons——蒸汽机效率提升反而让煤炭总消耗上升。TypeSafe 的赌注同理:当"AI 决策"便宜到近乎免费,软件的调用量会爆炸式增长。
五、规格与价格(含渠道与独立实测)
| 指标 | 厂商口径(TypeSafe) | 第三方 / 独立实测 |
|---|---|---|
| 端到端延迟 | 70–500 ms | OpenChamber 对 12,759 条推文统计:中位 76 ms(上四分位约 270 ms);土耳其直连中位 296 ms;Vercel 工程师称安全分类器比被替换 LLM 快 5–18× |
| 速度倍数 | 自家工作流最高 193.6× | OpenChamber 中位7×;NavyaAI 实测单 pass 约 0.13s vs JSON 模式约 0.62s |
| 成本 | 输入 $0.042/百万 tokens,输出免费;自称最高 444.6× 更便宜 | AY Automate:1000 次 8 路路由 Jev $0.0151 vs GPT-5.6 Terra $0.6089(约 40×);对比最便宜小模型仅 4.7–7.5×。NavyaAI:Jev 并不更便宜($18.57/百万次决策 vs 自研约束 token 方案 $16.30) |
| 上下文 | 64K 请求预算(state+单问 32K) | — |
| 准确率 | 内部工作流匹敌 Sonnet 5,较顶级前沿低 6.3 分;客服 76%、发票处理 61.8% | NavyaAI:200 例实测87.5–88%,高于廉价 LLM(70–83%)但也会输给 Claude Haiku 4.5;MarkTechPost 指发票处理仅 61.8% |
价格渠道(截至 10 月):Vercel 的免费窗口已于 9-25 结束,现各渠道统一 $0.042/百万输入、输出免费;Cloudflare 从预付费额度扣款并收 5% 充值费;OpenRouter 需预付额度。TypeSafe 自己承认"无法证明定价没有被补贴",应视为早期价格。
⚠️重要修正:初版文章写"上下文 64K"。更准确的说法是单请求 64K 预算、有效上下文约 32K;且 Jev 对长噪声 state 的计数/算术/日期比较不可靠(见第八节 jaggedness)。
六、与 LLM 及结构化输出的对比
| 方案 | 返回物 | 延迟量级 | 成本结构 | 确定性 |
|---|---|---|---|---|
| ChatGPT / Claude(LLM) | 长文本/代码/解释 | 常达数秒(顶级可达数十秒) | 输入+输出都计费 | 易过度自信,需解析 |
| OpenAI strict mode / Anthropic 结构化输出 | 套模板的文本 | 逐 token 生成 | 输入+输出计费 | 格式稳定,但仍生成文本 |
| Jev(决策模型) | 你的选项 + 概率 + 置信分 | 70–500 ms(实测中位 ~76–296 ms) | 仅输入计费,输出免费 | 输出受 schema 约束,无格式幻觉 |
本质差异:strict mode 是"在聊天模型外罩一个模板",Jev 是"从架构上就不生成文本"。后者省掉的不是一点解析代码,而是逐 token 解码的整个时间/成本开销。
七、生态、资本与新对手(10 月新增)
1. 生态集体集成
- Vercel AI Gateway 在发布次日接入,24 小时内近13% 付费团队使用(约为同期 GPT-5.6 家族份额的 2 倍);Netlify、Cloudflare、LiteLLM 跟进。
- LangChain 发布
TypeSafeClassifier集成 +AutoMode中间件,可在工具调用执行前做风险筛查。 - 数日内出现 5 个独立 Elixir 客户端。
2. 资本:一个月估值翻 37 倍
- 2026-09-15:4000 万美元种子轮(DCVC 领投),估值约 2 亿美元。
- 2026-10-09:8.7 亿美元 A 轮,估值 75 亿美元,a16z 领投、红杉与 DCVC 跟投,Martin Casado 入董事会。估值一个月内从 ~2 亿到 75 亿,为近年最陡曲线之一。
- 采用率口径不一:TypeSafe 称约 1/3 财富 500 强在用,a16z 称 25%;宣称发布 3 天生成 1 万亿 tokens。均未独立审计。
3. 对手涌现(品类被验证的信号)
- Fastino Labs:发布 GLiDE、GLiNER2.5-Decide,三周内跟进。
- Laya(Convai Innovations):开源 System One 对手,单 T4 GPU 单次决策约 33 ms;但在基准自身数据微调后精度 0.766,零样本近随机、置信分需重标定。
- jeff等自托管免费方案:NavyaAI 实测其校准(ECE 0.053)已逼近 Jev(0.080)。
- 工程师 Sean Goedecke 用普通开源 LLM 的约束 token 方案拿到 2–3× 提速,认为"不能幻觉"是"语义闪躲"——Jev 无法输出非法类型,但仍可能选错合法选项。
八、"不能幻觉"的真相与能力边界
TypeSafe 的"绝不幻觉、绝不类型错误"是真实保证,但只针对输出的"形状",不针对"正确性":Jev 不会编出一个第四类或一段假数据,但完全可能从你给的三个选项里选错那个。社区对此的批评是准确的——这是语义上的边界,不是万能保证。
Jev 1.13 的 jaggedness(锯齿)边界(官方也提示):
- 计数、算术、日期比较不可靠;
- 大体积、噪声多的 state 下准确率下降;
- 数学与日期逻辑应留在代码里,而非交给模型。
适合:分类、路由、评分、门控、RAG 相关性筛查、reranker 替代等高频、答案集合固定的判断。
不适合:起草、总结、解释、写代码、长链推理、任何需要生成文本或精确计算的环节。
九、相关内容(一):APUS 开源复现与 Harness
2026-09-19,中国 AI 企业APUS(麒麟合盛)发布全球最早一批对 Jev 决策范式的独立开源复现,打包为开箱即用的 Agent Skillfast-browser-use,MIT 协议,支持 macOS / Linux / Windows(含无 GPU 的 Mac/PC),可纯本地离线运行。
APUS 判断 Jev 底层逻辑是"跳过自回归解码、隐状态直接打分",其复现实现了单 Token Logits 快速决策、KV-Cache 广播与并发批量评估;在浏览器自动化中由本地Qwen3.5-9B经单次前向直接完成"点哪、选哪"。实测(M2 Pro 消费级笔记本,全程离线):维基检索中位 ~18s,表单/导航 ~3s,单任务仅 4 次打分,零云端、零费用、数据不出本机。
Harness(工程调度层):负责组装、调度"快慢分工"的那一层。贵的大模型做规划(慢思考),高频原子判断交给轻量决策模型(快思考)。APUS 复现的三重意义:① 验证"用模型做 Harness"工程可行;② 证明闭源之外,开源权重+端侧算力同样撑得起该范式,契合政企/金融合规;③ 提供可审计的独立验证参照。
⚠️ 截至发布,TypeSafe 官方 Jev 服务仍未直接向中国大陆开放;APUS 复现为国内开发者提供了本地化、可审计的替代路径。
十、可运行应用:Jev 多场景「决策中台」
光有范式不够,我们手搓了一个完整、可直接运行的应用——围绕 Jev「System One 决策」范式构建的多场景决策中台,不是脚本片段,而是把"判断"做成服务的微型应用。
应用构成
- 决策后端抽象为统一接口,内置两种实现:
LocalDecisionEngine:纯算法(关键词特征打分 + softmax / sigmoid),真实可计算、输入相关、零依赖、无需 API key,开箱即跑——用于没有 Jev 访问权限时完整体验应用流程。JevClient:设置JEVMODEL_API_KEY后自动启用,调用真实 Jev 兼容接口(jevmodel.org / TypeSafe,请求体同构),返回结构与原生引擎完全一致。
- 内置 4 个真实业务场景,均抽象为 Choice / Score / Noul:
- 客服工单自动分诊(support_triage)
- UGC 内容审核门控(content_moderation)
- LLM 请求智能路由(llm_routing)
- Agent 工具调用护栏(tool_guardrail)
- 两种运行形态:CLI(默认)与 Web Demo(内置
http.server,浏览器打开即用)。
运行方式
python jev_app.py--all# CLI:覆盖全部 4 场景示例python jev_app.py--scenariotool_guardrail--text"发送一封邮件通知全部客户本次涨价"python jev_app.py web--port8000# Web Demo:浏览器打开 http://127.0.0.1:8000真实运行输出(CLI--all,本地后端实测)
【客服工单自动分诊】输入: I was charged twice for my order. Please fix this ASAP! category=billing (0.475) urgency=2.5 escalate=0.818 → 转人工坐席(高升级概率 / 低分类置信) 【UGC 内容审核门控】输入: 免费领红包点这里加微信赚钱 category=spam (0.948) toxicity=2.0 block=0.953 → 拦截并送审(命中类型=spam,毒性 2.0/5) 【LLM 请求智能路由】输入: 帮我推导一下这段代码的时间复杂度并给出证明 complexity=5.0 needs_reasoning=0.953 → 路由至 [strong_model](复杂度 5.0/5) 【Agent 工具调用护栏】输入: 发送一封邮件通知全部客户本次涨价 action_type=external_send (0.909) risk=5.0 allow=0.182 → 需人工确认(风险 5.0/5,放行概率 0.18)Web 模式
/api/decide返回同样结构的 JSON,前端选场景、输文本即可看决策与 Harness 动作(已实测可用)。
为什么它是"应用"而非"片段"
- 场景与决策解耦:场景用声明式配置描述(问题类型 + 特征词 + 路由函数),新增场景无需改引擎——正是把"判断"产品化的关键。
- 后端可替换:
LocalDecisionEngine与JevClient同接口,接入真实 Jev 后 Harness 路由一行不改。 - 决策即服务:Web 形态把"判断"暴露成 HTTP 接口,可直接嵌进工单系统、审核平台或 Agent 框架——正是 Jev 设想的 “frontier-intelligence function call” 落点。
完整源码见同目录jev_app.py(纯标准库,无第三方依赖)。换真实 Jev 只需设环境变量,业务侧代码无需改动。
十一、横向实测:Jev 与 Laya / jeff / Fastino 四强对比
品类成形后,真正的工程问题是"该用哪个"。下面把四个最常被拿来和 Jev 比较的决策模型放一起,严格区分厂商口径与独立 / 第三方实测。
1. 四强速览表(截至 2026-10)
| 模型 | 出品 / 形态 | 参数 | 协议 / 权重 | 单题延迟 | 准确率(关键口径) | 校准 | 核心差异点 |
|---|---|---|---|---|---|---|---|
| Jev | TypeSafe / 闭源托管 API | ~40B(报道) | 闭源,无权重 | 中位 76–296 ms(网络) | typed-decisions 零样本 0.73;Banking77 0.87 | 厂商称"设计即校准" | 生态最广、托管 SLA、Jev 兼容协议事实标准 |
| Laya | Convai / 开源 | 421M(英)/ 322M(多语) | Apache-2.0,全开放 | ~33 ms(T4 本地) | 零样本 0.36(近随机)→ 微调 0.77;Banking77 0.43 | 出厂过自信,需温度缩放 | 100+ 语言、多 checkpoint + Router、Jev 兼容/v1/systemone |
| jeff | firelex / 开源 | 0.8B / 2B(Qwen3.5 / Gemma) | MIT 代码 + Apache-2.0 权重 | ~22–28 ms(GPU)/ 60 ms(M4 Max) | Jeff-Qwen3.5-2B 83.1% ≈ Jev 83.0%;0.8B 79.1% | 显式温度校准 | 可换 LoRA 适配器(guard/triage/tools)、同请求格式 |
| GLiNER2.5-Decide | Fastino / 开源 | 340M(DeBERTa-v3) | Apache-2.0 | CPU 可跑、气隙部署 | Fast Decisions 60.1%(厂商内部) | — | 跨问题约束联合解码、可微调、EU/GDPR 合规托管 |
2. 几个必须分清的口径陷阱
- "Jev 兼容"是协议层,不是质量层:Laya / jeff / OpenJev 都复刻了
POST /v1/systemone请求形状,客户端改个 baseUrl 就能切。但零样本质量差距很大——Laya 基础版零样本 0.36 接近随机(0.318),Jev 零样本 0.73;jeff 通过完整微调 + 温度校准才逼近 Jev。 - Fastino 的排行榜要打折看:GLiDE 在自家 Decision Index v0.2.1 拿 64.81 对 Jev 57.91、CLadder 推理 88.7% 对 72.6%;其 Fast Decisions 上 GLiNER2.5-Decide 60.1% 对 “JevK5” 57.5% 对 Laya 46.6%。两个陷阱:对手和测试集都是 Fastino 自己挑的;“JevK5” 是开源复刻、不是 TypeSafe 的 Jev。独立结论需自建留出集。
- Banking77 高基数分类是分水岭:77 选项意图识别,Jev 0.87 vs Laya 0.43(选项共享小 token 预算导致)。高基数 / 细粒度分类仍是闭源 Jev 的护城河,开源模型短期靠微调追赶。
3. 怎么选(落地决策树)
- 要托管 API + 当下最广生态 + 高基数分类稳定性→ Jev(但注意未直连大陆、需合规评估)。
- 要数据不出境 / 多语言 / 极低单题延迟 + 愿微调→ Laya(33ms 级、100+ 语言、Apache-2.0)。
- 要最小算力本地跑 + 可插拔 LoRA 适配器 + 校准可用→ jeff(0.8B 在消费级 GPU 即可)。
- 要物理隔离 / CPU 部署 / 跨问题约束一致性→ GLiNER2.5-Decide(联合解码消除多标签矛盾,适合严格合规)。
4. 一句话总结
开源阵营(Laya / jeff)已经把"延迟和隐私"打到 Jev 之下,但零样本质量与开箱校准仍落后;Fastino 走的是"带推理的更强决策 + 约束一致性"差异化路线。对国内开发者最现实的路径:先用 APUSfast-browser-use/ jeff 在本地把范式跑通,等数据积累到能微调时,再用 Laya 或自托管锁定质量——这正是把"判断"掌握在自己手里的落点。
十二、我的判断(更新版)
Jev 值得关注,但理由已经从"技术新奇"升级为"品类 + 资本 + 生态三重确认"。几个相对扎实的判断:
- 品类成立,且被快速验证:一个月估值 75 亿美元、Vercel/LangChain/Cloudflare 集体集成、Fastino/Laya/jeff 等对手涌现——这不是一个模型的故事,而是一个新层的故事。
- 真实价值在"架构"而非"单点性能":即便把厂商的"200 倍"打折到独立实测的"中位 7 倍提速、数十倍成本优势",其"输出受约束 + 校准置信度"对生产稳定性的增益仍是实打实的。Jack & Jill 案例(替换 Gemini、成本降 88%、AUC 0.933 vs 0.924)是可参考的真实样本。
- 最大变量是"校准是否真可信"与"边界是否守得住":NavyaAI 的实测给出清醒注脚——Jev更准但不一定更便宜,且其校准优势可被免费自托管模型逼近;"不能幻觉"只保证形状。落地前必须在自有数据上做留出集测试,并对置信分做温度缩放校准。
- 国内开发者:APUS 复现 > 模型本身:官方服务未直连大陆,而
fast-browser-use把路线跑通在本地、离线、可审计轨道上,这正是政企与金融场景的硬约束。
一句话:别把它当"更便宜的 ChatGPT",要当它"生产系统里那层高频、可校准的 if 判断"。它不会取代你的 LLM,但会接管你正在用大模型硬扛、却做得又贵又脆的那一大类判断。
参考与延伸阅读
- TypeSafe AI《Introducing System One Models & Jev》(2026-09-15)
- InfoQ / MarkTechPost / Stackademic / AI Understanding:Jev 发布与生态报道(2026-10)
- a16z 公告 & Dev.to:TypeSafe $870M Series A、$7.5B 估值(2026-10-09)
- OpenChamber、AY Automate、NavyaAI、builder.ai2sql:独立基准与成本实测
- Vericence:Decide, Don’t Generate(Jev vs Laya 对比)
- 觉醒AI知识库 / MarkTechPost(Asif Razzaq):Jev vs GLiDE vs GLiNER2.5-Decide 横评(2026-10)
- andrew.ooo、explainx.ai、ai-beat.github.io、jevlist.ai:Laya / jeff 开源决策模型实测与校准分析
- 百度百科、只读、搜狐/央广网:Jev 中文资料与 APUS 开源复现
- 独立指南与 Playground:jevmodel.org(非 TypeSafe 官方)
- 本文配套可运行应用源码:
jev_app.py(同目录)