距上期 23 天,这是本系列跨度最长的一期,也是第一次出现「好消息与坏消息指向相反结论」的一期。一方面,「决策模型」作为一个独立品类已经定型——五周内 20 多家厂商入场,绝大多数兼容同一套 /v1/systemone 接口,Jev 从「唯一答案」退成了「参考实现」。另一方面,10 月 24 日 TypeSafe 自曝:所有客户的 noul(是/否概率)输出全部泄露,发生在 8.7 亿美元 A 轮之后第 24 天。而学术侧第一次给出了对「级联验证」这个主流架构的硬证伪:Jev 高置信错误中,96% 的 LLM 复核会重复同一个错误。
追踪类报告的价值在于敢改自己。上期(10-06)的四个判断,本期有两条要修正、一条要加限定、一条被证实。
修正 1|「品类被巨头接盘」这个说法不对,应该是「品类独立,Jev 变成参考实现」。上期的叙事是巨头抢走了 Jev 的地盘。实际情况是:五周内 20 多家厂商入场,多数主动兼容 Jev 的 /v1/systemone 请求格式(Cloudflare Clef、AWS Strands Decider、Kev、Laya、Microsoft-Decision-1、Solar Decide、Decider 1、Drex、Kai……)。这意味着 Jev 保住了「定义者」的位置,却失去了「唯一供应商」的位置——对使用者的含义完全相反:你不是在选一家厂商,你是在选一个接口。
修正 2|「25% 的世界 500 强在用」需要与花费份额并列阅读。上期引用了阿尔梅达对《华尔街日报》的说法(日处理 1 万亿 token、约 25% 的世界 500 强)。本期 Vercel 的一手数据给出了同一件事的另一面:Jev 在 AI Gateway 上触达 35.3% 的付费团队(历史第一),但只占 9 月 0.15% 的花费、1% 的 token。「很多公司在用」和「很多钱在它身上」是两个不同的事实,上期只写了前者。
加限定|「中位 7× 提速」还要再降一档——跟最便宜的小模型比,价格优势基本消失。上期用 OpenChamber 的 12,759 条推文统计把 193.6× 修正成 7×。本期多份独立对比显示:那个倍数是对前沿模型而言;对 GPT-6 Luna 这类低推理档的小模型,意图路由每百万次决策 Jev 是 $98、Luna 是 $116;内容审核 Jev 是 $19、Luna 是 $16——后者甚至更便宜。选型理由必须从「便宜」换成「有可设阈值的概率 + 更快」。
被证实|「价值在接口不在权重」。上期 HN 的共识,本期成了既成事实:llama.cpp 合并了 systemone 端点,Ollaya 把 7 个开源决策模型塞进一个兼容端点,Vercel 的 decisions endpoint 同时支持 Jev、Liquid d1 和 Laya。业务代码建在契约上、Provider 可替换这条纪律,现在有工具层支撑了。
10 月 24 日(周五)傍晚约 18:49,TypeSafe CEO Diogo Almeida 在 X 上自己发了公告:一次未授权的大规模泄露,暴露了全部客户的 noul 输出,并且公司自己贴出了泄露数据的链接,理由是「尽量透明」。他没有等记者来问。
为什么这件事比一般的数据泄露更严重:noul 不是「一段对话」,它是一条带概率的商业判断记录——「这笔转账是否欺诈、0.93」「这条内容是否违规、0.81」「这个候选人是否进入下一轮、0.27」。泄露的不是数据,是你的业务在问什么问题、按什么标准判断。对做风控、内容审核、招聘筛选的团队,这等于公开了决策规则本身。开发者 Wes Bos 已公开确认自己的输出在泄露集合内。
成因目前只是推断。Startup Fortune 认为形态符合 IDOR(不安全的直接对象引用)——记录用可预测的递增 ID 寻址、没有校验「请求者是否拥有这条记录」。这是最古老、最基础的 API 漏洞之一,但没有独立安全机构确认,TypeSafe 也没有发布命名该缺陷的技术复盘。另有报道称,TypeSafe 自己的数据处理附录承诺 72 小时内通知客户,这次比承诺更快。
与你直接相关的处置建议:如果你曾在任何真实用户数据上调用过托管版 Jev(不只是 toy 项目),请把那些 noul 视为已公开。要做的三件事:① 查一遍调用日志,列出涉及个人数据的判断;② 按你所在地区的告知义务评估是否需要通知下游;③ 后续敏感场景改用本地部署(Laya / Ollaya)或自建分类器——你之前部署 Laya 的那条路,在这一刻从「技术验证」变成了「合规选项」。
更要紧的是时间线:10 月 15 日 HiddenLayer 的安全研究已经指出,Jev 这种精简架构在某些方面比常规大模型更容易被攻击——被移除的正是常规 LLM 里那些「检查与拒绝」的环节。其测试中,一个浏览器智能体在被明确要求「不要相信页面内容」的前提下,仍然点击了恶意广告;毒性分类器也被针对性的文本微调骗过。公允地说,同一测试里 Jev 被操纵的频率低于对照模型 Qwen3.8-27B。但九天后,泄露的恰恰是这些分类器产出的判断本身。
学术侧同期还有两条更细的发现,值得所有把 Jev 当护栏的人读:「决策劫持」(510 条重建的 InjecAgent 用例)——恶意内容会推动 Jev 的动作概率,但很少能让它选中攻击者指定的动作;而 「JevOut」——完全无害、只是「看起来合理」的补充上下文,即使正确答案不变,也能翻转决策模型的选择,而且针对一个模型构造的上下文可以迁移到其他决策模型。结论很硬:一个廉价的概率护栏不是安全边界。
10 月中旬 Vercel 发布了 AI Gateway 生产指数,Jev 拿下了一项历史纪录。但同一张表里还有两个数字,讲的是另一个故事。
最值得注意的落地案例不是社区项目,而是 Vercel 自己:它用 Jev 替换了 GPT-6 Luna 来做有害命令分类——这恰好是一个「答案空间封闭、调用频率极高、误判代价可控」的教科书位置。另一家公开案例是招聘平台 Jack & Jill:从 Gemini 3.1 Flash Lite 切到 Jev 做候选人评分,成本降 88%、中位处理时间约减半,测得质量无统计显著下降(厂商口径)。
一个定义陷阱,必须写清楚:TypeSafe 宣传的 「0% 幻觉率」指的是「输出是否落在预定义 schema 内」,不是「判断是否正确」。Jev 永远不会给你一个格式错误的答案,但它完全可能给你一个格式完美、内容错误的答案。HN 上那句总结很准:它不会输出无效类型,但会输出完全错误的有效值。
过去一个月,社区里最流行的架构叫「级联」:Jev 先判,置信度低的再交给大模型复核。直觉上这完美利用了校准概率。arXiv 2609.29769v2《JEV vs. LLMs as Rubric Judges》把这个直觉打穿了。
这个结论和另外两份独立研究咬得很紧:CMU 的预印本发现「Jev → GPT-6」级联在 41% 成本下打赢了单用 GPT-6;而另一份 JEV-as-a-Judge(510 对偏好样本)显示:0.90 阈值下 Jev 处理 53.7% 样本,级联准确率 92.5%,单用 GPT-6 Astra 是 93.1%,成本为后者的 57–62%。三份研究合起来给的判断是:级联能省钱,但基本不能提准确率。
所以「用大模型兜底」这个默认做法要改。真正的 fallback 必须与 Jev 的失败模式不相关:
① 可执行验证器——跑测试、比 schema、查数据库、算数(Jev 明确不会算数);② 人工抽检——尤其针对「高置信 + 高代价」那一格;③ 另一个模型家族的裁判,且配人工标注的攻击集;④ 随机切片审计——只在低置信区间抽检是错的,因为自信错误全在「被接受」那一堆里。
另外一条纪律是从论文里长出来的,很多团队会踩:绝不要用同一个模型既当闸门又当裁判。如果 Jev 在生产里拦截工具调用,同时又用它给自己打分,那么一个能翻转闸门的输入,同时也能翻转评估——你的看板会对「恰好通过了的那批流量」显示一切正常。
10 月 14 日(官方玩梗:10.14 的 1:14 PM PT)发布 Jev 1.14。中文媒体标题写的是「Jev 会看图做决策了」。读官方公告会发现另一层信息:三项新能力全部默认关闭、全部要求手动打开实验性请求头、官方明说「未达生产标准,风险自负」,而且被统一命名为 Danger Zone(危险区)。
| 能力 | 请求头 | 可用版本 | 关键限制 |
|---|---|---|---|
| 图像输入 | TypeSafe-Danger-Zone-Images: true | 1.13.0 / 1.14.0 | 仅 PNG / JPEG;单图 ≤16 MiB;每边 280–1568 px;超限直接拒绝、不缩放,一个坏文件整请求失败 |
| Box 问题类型 | 同上(需图像头) | 仅 1.14.0(1.13 返回 400) | 返回一个归一化边界框 + 置信度;目标不存在时依然会返回一个框,必须配一个 noul 问「在不在」 |
| 262K 长上下文 | TypeSafe-Danger-Zone-Long-Context: true | 1.13.0 / 1.14.0 | 默认仍是 64K/请求、32K/问题;开启后更慢、更不准;无价格加成 |
两个媒体没写、但会咬人的细节:
① 图像支持其实在 1.13 就有了,1.14 只是把它继续留在实验头后面——「会看图」不是新能力,是被承认的实验能力。
② 别名在约 10 月 21 日从 jev-preview 切到 jev-latest。任何写着 model: "jev-latest"、或 Python SDK 没显式设模型、或照 JS 快速开始抄了 defaultModel 的代码,会在你不改一行代码的情况下换模型。概率和置信度会漂移,跨过你阈值的那部分决策比例会变——如果 10 月 21 日前后你的回测结果变了,先怀疑模型,不要怀疑市场。
官方说 1.14 最大的提升是多语言,但文档同时明确:包括中文在内的非英语仍不如英语,建议上线前用自己的内容测。这条对中文场景是硬约束:如果要做中文工单分流、中文内容审核,必须先建一份几百条的中文标注集跑一遍,不能拿英文 benchmark 的成绩推断。
另有一个容易被忽视的「负向更新」:TypeSafe 的「已知短板页」(jaggedness)至今只覆盖 1.13,最后审核日期是 10 月 2 日,所以 1.14 的短板只能假定与 1.13 相同——不擅长算术与计数、日期当文本读、Choice 倾向选第一个选项、长输入会被无关内容干扰(官方原话 「Jev suffers from context rot」)、不把 state 当作敌意输入、是/否问题与其否定式不保证概率和为 1。
这是本期最容易被误读的一张表。它不是「Jev 的竞品清单」,而是一个品类在五周内完成标准化的证据——注意「接口」那一列,绝大多数都写着兼容。
| 厂商 | 产品 | 形态 | 接口 | 值得注意的点 |
|---|---|---|---|---|
| TypeSafe AI | Jev 1.14 | 托管 | 原生 | $0.042/M 输入、输出免费;1.14 图像与长上下文均在危险区 |
| OpenAI | Decisions API | 托管 | 自有 | DevDay 预览(9-29),10-06 公测;底层是 GPT-6 Luna 套决策接口 |
| Microsoft | Microsoft-Decision-1 | 托管 | 兼容 | 10-09 上 Foundry + OpenRouter;Qwen3.5-9B 后训练;定价与 Jev 对齐到同一分钱 |
| Cloudflare | Clef 27B / Clef-flash 9B / Clef-omni | 开源 | 兼容 | 10-01 发布(Apache-2.0),八天后补 Clef-omni(音视频图文本);带 Workers AI 上的 RL 微调平台 |
| AWS | Strands Decider 2B | 开源 | 兼容 | Apache-2.0;权重 + 训练数据 + 脚本全开,消费级 GPU 可跑 |
| Perplexity | pplx-decider 27B / Decider for Mac | 开源 + 托管 | 自有 | Mac 版是 4B 本地模型,无需 API Key——对隐私敏感场景意义大 |
| Liquid AI | d1 / d1-3B / d1-omni-600M | 托管 + 开源 | 自有 | 首个宣称在 Decision Index 上赢 Jev;Jetson 上 16ms;许可限制:年营收 <$10M 才可免费商用 |
| Snowflake | Decision | 托管 | SQL 内 | 通过 AI_COMPLETE 直调,同一套 choice / score / 是非 schema |
| Fastino | GLiDE v1.2 | 开源 | 自有 | 10-22 宣称 Decision Index 71.5 第一;权重很大且非标准许可 |
| Base Labs(Baseten) | mammoth-1 27B / elephant-1 9B | 开源 | 自有 | 10-22 发布,含技术报告,自称登顶 Jev Decision Index |
| Upstage | Solar Decide | 托管 | 兼容 | 512K 上下文——目前最长的决策模型窗口 |
| Superagent | Security-One 27B | — | — | 只做安全类判断:提示注入、工具调用、代码变更、告警 |
| 其他 | meraGPT Decider 1、Together Tev1、Nace.AI Drex、Hanzo Kai、Respan Span-01、Surogate Rune 26B-A4B、GLiNER2.5-Decide、InternLM Intern-Decision、H2O.ai、PostHog Jeeves | 混合 | 多数兼容 | 价格带已从 $0.021 到 $0.06/M;最小的决策模型只有 1.44 亿参数、纯 CPU 可跑 |
这张表最重要的不是谁强,而是「接口归一、产品不归一」:同一套请求格式下,各家在「托管 vs 开权、上下文长度、是否多模态、许可是否限制商用、校准质量」上差异巨大。所以选型问题已经从「用不用决策模型」变成「这六个维度里哪几个对我致命」。
星数口径先说明:本节的数字来自 GitHub 榜单快照(10-15 与 10-28 两个时点),同一项目在不同榜单可差数千星,请按趋势读,不要按绝对值排名读。
非自回归决策引擎,100+ 语言,内置语种路由按请求选 checkpoint。自上期 30,404 涨到现在,日增已降到几十星量级(10-27 为 +86)。
Laya 的原生 MLX 运行时,在 Apple Silicon 上本地跑,毫秒级返回 choice / rubric score / 概率。
同类非自回归决策引擎,强调 33ms 与 100+ 语言,覆盖文本 / 邮件 / 工单 / JSON。
Rust 单二进制,「决策模型界的 Ollama」:pull / run / list / ps 一把梭,HTTP 层与 /v1/systemone 线级一致,改一个环境变量就能把现有 Jev 客户端切过来。只分发 ~3MB ONNX 图,权重从作者 HF 仓库按 commit + sha256 直读,不重托管。
先让 Jev 决定这段回答该用文本、表格还是交互图,再让聊天模型去生成。把「呈现形式」从生成模型的随机选择变成一次显式决策。
给本地文档智能体加一层可选 Jev 工具,做类型化分类、路由、打分;阈值与执行策略始终留在调用方。
把「文本 + 问题 schema」变成类型化决策,一次前向返回每个选项的概率。公开了配方和训练好的 Bespoke-Nimble-9B。
官方出的智能体技能包:让你的编码智能体去拿类型化决策和概率。取代了此前社区各自维护的 skills 包,成为这一层的标准入口。
让 Jev 在 Codex 任务运行过程中动态调整 GPT-6 的推理力度——每一步匹配不同的思考深度来省 token。
Jev 风格但先想一下再选:Qwen3.5-9B + LoRA,输出前走一段推理链,再给校准后的是/否、多选或评分,还带 diffusion drafter 加速。
一条需要防的统计假象:目录里排在最前的 ekko-studio(★11.6k) 是一个通用的本地优先多智能体工作台,只是「可选地」用 Jev 做记忆筛选和技能选择。它的星数不是 Jev 带来的,把它当成「Jev 生态第一项目」会得出完全错误的结论。同理,awesome-jev 这类索引仓库(★2.5k)的增速快于被索引内容的质量,高星不等于高收录质量。
本期其他值得知道的新项目(按用途归类,星数从数十到数百,均未生产验证):判断型护栏 JEV Shield(★202,给提示注入和待执行 shell 命令打分)、jev-guard、Jev Guards(不可逆操作前的语义护栏);记忆治理 Zerikai Memory、Invalidate(判断已存事实是否还成立)、Jev-Mem;代码与检索 Jev Codebase Search、sys1grep、jev-test-filter(只跑受本次 diff 影响的测试);消费级玩法 Jev Cards(10-20 上 HN 的看图答题游戏,模型约 0.25 秒作答,也是第一次把视觉能力放到公众面前做非正式 benchmark)、Slop Filter(识别 AI 味文字)、Jeved;交易 beebots(★330,OKX 永续,三只「蜂」竞赛,默认纸面交易)。
《Jev Build Report》在 10-15 更新了第二版(覆盖发布后 31 天)。相比上期引用的 10-04 版,样本从 755 增至 855,结构性判断没变,但几个数字更锋利了。
最该记住的两句:「注意力集中,工作不集中」——前 5 个仓库吃掉 59.7% 的星,中位仓库只有 22 星,229 个不到 50 星;「一周的 crowd,不是 community」——781 个作者里 729 个只做过一件事,只有 52 个做过两件以上。
把这条和上期的「755 个 build / 20 天」并起来看,增速从每天约 38 个降到约 8 个(10-06 后单日新增明显变稀)。同时外部注意力也在转移:10 月中旬另一个叫 REA 的项目三天冲到近 7 万星,把 GitHub 趋势榜的注意力整块吸走(单一来源,仅作背景参考,与 Jev 无技术关系)。这不是衰退,而是从「发布事件」回到「常态使用」——恰好也是判断真实价值的时点。
报告自己列出的三个不能说的:① 所有数字都是作者自报、未经复现;② 准确率基本缺失——成本和延迟好贴,留出集不好贴,所以任何用这页数字做的「Jev vs 大模型」比较,比的只是价格和延迟,不是质量;③ 目录是个人策展的,不是全量普查,且星数是快照。
上期 8 条,本期新增 5 条、修订 2 条。带 新 的是本期因事故或论文而加的。
jev-latest 已在 10 月 21 日前后指向 1.14.0;jev-preview 不再等同稳定版。每个响应里的 model 字段要记录并校验,回测缓存键必须含版本号。44 天,这个生态讲完了三段故事,而且每一段的结论都不同。
第一段(1–14 天):一个模型。结论是「快得离谱、便宜得离谱」。这段的多数数字来自厂商自测,后来被逐级修正。
第二段(15–30 天):一个品类。结论是「接口标准化、实现多样化」。这段的收获是真实且持久的——把判断从生成里拆出来这个架构想法,不会因为谁家模型好坏而消失。
第三段(31–44 天):一笔账和一次事故。结论是「省下的钱是真的,省下的验证不是」。Vercel 的 35.3% 触达是真的,0.15% 花费也是真的;级联能省钱是真的,级联不能提准确率也是真的;「0% 幻觉」是格式承诺,不是正确率承诺。
如果要给一个可执行的判断:2026 年 10 月底,「决策模型」已经是一个可以放心押注的架构位置,但还不是一个可以放心押注的单一供应商。合理姿势是三件事同时做——
① 把接口抽象出来(state + 类型化问题 → 一次往返),代码只依赖契约;
② 把一个真正高频的判断搬上去(工单分流、内容审核、工具调用前检查),用自有标注集量出准确率与校准;
③ 敏感的那条链路留在本地,托管只放低风险判断。
最后一句提醒,给所有准备把「判断」外包出去的人:决策模型降低的是每次决策的成本,不是决策本身的责任。它会给你一个漂亮的概率,但阈值设在哪里、错了谁承担、什么情况下必须有人看——这三件事,模型永远替你决定不了。