开源生态追踪 · 第 6 期 · 2026-10-29

Jev 生态第 44 天:接口赢了,信任输了

距上期 23 天,这是本系列跨度最长的一期,也是第一次出现「好消息与坏消息指向相反结论」的一期。一方面,「决策模型」作为一个独立品类已经定型——五周内 20 多家厂商入场,绝大多数兼容同一套 /v1/systemone 接口,Jev 从「唯一答案」退成了「参考实现」。另一方面,10 月 24 日 TypeSafe 自曝:所有客户的 noul(是/否概率)输出全部泄露,发生在 8.7 亿美元 A 轮之后第 24 天。而学术侧第一次给出了对「级联验证」这个主流架构的硬证伪:Jev 高置信错误中,96% 的 LLM 复核会重复同一个错误。

调研日期 2026-10-29 上期报告 2026-10-06 间隔 23 天 星数快照 10-15 ~ 10-28(口径见注)

00先修正上期:三条需要改口径的结论

追踪类报告的价值在于敢改自己。上期(10-06)的四个判断,本期有两条要修正、一条要加限定、一条被证实。

修正 1|「品类被巨头接盘」这个说法不对,应该是「品类独立,Jev 变成参考实现」。上期的叙事是巨头抢走了 Jev 的地盘。实际情况是:五周内 20 多家厂商入场,多数主动兼容 Jev 的 /v1/systemone 请求格式(Cloudflare Clef、AWS Strands Decider、Kev、Laya、Microsoft-Decision-1、Solar Decide、Decider 1、Drex、Kai……)。这意味着 Jev 保住了「定义者」的位置,却失去了「唯一供应商」的位置——对使用者的含义完全相反:你不是在选一家厂商,你是在选一个接口。

修正 2|「25% 的世界 500 强在用」需要与花费份额并列阅读。上期引用了阿尔梅达对《华尔街日报》的说法(日处理 1 万亿 token、约 25% 的世界 500 强)。本期 Vercel 的一手数据给出了同一件事的另一面:Jev 在 AI Gateway 上触达 35.3% 的付费团队(历史第一),但只占 9 月 0.15% 的花费、1% 的 token。「很多公司在用」和「很多钱在它身上」是两个不同的事实,上期只写了前者。

加限定|「中位 7× 提速」还要再降一档——跟最便宜的小模型比,价格优势基本消失。上期用 OpenChamber 的 12,759 条推文统计把 193.6× 修正成 7×。本期多份独立对比显示:那个倍数是对前沿模型而言;对 GPT-6 Luna 这类低推理档的小模型,意图路由每百万次决策 Jev 是 $98、Luna 是 $116;内容审核 Jev 是 $19、Luna 是 $16——后者甚至更便宜。选型理由必须从「便宜」换成「有可设阈值的概率 + 更快」。

被证实|「价值在接口不在权重」。上期 HN 的共识,本期成了既成事实:llama.cpp 合并了 systemone 端点,Ollaya 把 7 个开源决策模型塞进一个兼容端点,Vercel 的 decisions endpoint 同时支持 Jev、Liquid d1 和 Laya。业务代码建在契约上、Provider 可替换这条纪律,现在有工具层支撑了。

01头条:10 月 24 日,每一份决策都被公开了

10 月 24 日(周五)傍晚约 18:49,TypeSafe CEO Diogo Almeida 在 X 上自己发了公告:一次未授权的大规模泄露,暴露了全部客户的 noul 输出,并且公司自己贴出了泄露数据的链接,理由是「尽量透明」。他没有等记者来问。

泄露内容
所有客户的 noul 输出
推测成因
IDOR (未确认)
距 8.7 亿美元 A 轮
24 天
技术复盘报告
尚未发布

为什么这件事比一般的数据泄露更严重:noul 不是「一段对话」,它是一条带概率的商业判断记录——「这笔转账是否欺诈、0.93」「这条内容是否违规、0.81」「这个候选人是否进入下一轮、0.27」。泄露的不是数据,是你的业务在问什么问题、按什么标准判断。对做风控、内容审核、招聘筛选的团队,这等于公开了决策规则本身。开发者 Wes Bos 已公开确认自己的输出在泄露集合内。

成因目前只是推断。Startup Fortune 认为形态符合 IDOR(不安全的直接对象引用)——记录用可预测的递增 ID 寻址、没有校验「请求者是否拥有这条记录」。这是最古老、最基础的 API 漏洞之一,但没有独立安全机构确认,TypeSafe 也没有发布命名该缺陷的技术复盘。另有报道称,TypeSafe 自己的数据处理附录承诺 72 小时内通知客户,这次比承诺更快。

与你直接相关的处置建议:如果你曾在任何真实用户数据上调用过托管版 Jev(不只是 toy 项目),请把那些 noul 视为已公开。要做的三件事:① 查一遍调用日志,列出涉及个人数据的判断;② 按你所在地区的告知义务评估是否需要通知下游;③ 后续敏感场景改用本地部署(Laya / Ollaya)或自建分类器——你之前部署 Laya 的那条路,在这一刻从「技术验证」变成了「合规选项」。

更要紧的是时间线:10 月 15 日 HiddenLayer 的安全研究已经指出,Jev 这种精简架构在某些方面比常规大模型更容易被攻击——被移除的正是常规 LLM 里那些「检查与拒绝」的环节。其测试中,一个浏览器智能体在被明确要求「不要相信页面内容」的前提下,仍然点击了恶意广告;毒性分类器也被针对性的文本微调骗过。公允地说,同一测试里 Jev 被操纵的频率低于对照模型 Qwen3.8-27B。但九天后,泄露的恰恰是这些分类器产出的判断本身。

学术侧同期还有两条更细的发现,值得所有把 Jev 当护栏的人读:「决策劫持」(510 条重建的 InjecAgent 用例)——恶意内容会推动 Jev 的动作概率,但很少能让它选中攻击者指定的动作;而 「JevOut」——完全无害、只是「看起来合理」的补充上下文,即使正确答案不变,也能翻转决策模型的选择,而且针对一个模型构造的上下文可以迁移到其他决策模型。结论很硬:一个廉价的概率护栏不是安全边界。

02账本:Vercel 纪录的另一半是留存与花费

10 月中旬 Vercel 发布了 AI Gateway 生产指数,Jev 拿下了一项历史纪录。但同一张表里还有两个数字,讲的是另一个故事。

同一份 Vercel 报告里的三个数字(9 月,付费团队口径) 触达是历史第一,留存是第五,花费占比接近零。三个百分比的分母都不同,不能相乘。 14 天触达率 35.3% 历史第一(第二名 Sonnet 5.5 为 18.1%) 次周留存 55.6% 第 5 名(Luna 64.8%、Sonnet 5.5 60.5%) 9 月花费份额 0.15% token 份额 1%;首两周花费份额约 0.27% 怎么读: 一次 Jev 请求比一次 LLM 请求便宜两三个数量级,所以「请求数第一」+「花费接近零」并不矛盾—— 它说明 Jev 被放进了高频、低风险的位置,而不是替代主模型的预算项。这正是决策层该有的位置。 数据来源:Vercel《AI Gateway Production Index》2026 年 10 月;花费按公开标价估算,不含各实验室自有 API 直连流量。
触达讲「有多少团队愿意试」,留存讲「试完还回来」,花费讲「值多少钱」。三个指标一起看,才叫采纳。

最值得注意的落地案例不是社区项目,而是 Vercel 自己:它用 Jev 替换了 GPT-6 Luna 来做有害命令分类——这恰好是一个「答案空间封闭、调用频率极高、误判代价可控」的教科书位置。另一家公开案例是招聘平台 Jack & Jill:从 Gemini 3.1 Flash Lite 切到 Jev 做候选人评分,成本降 88%、中位处理时间约减半,测得质量无统计显著下降(厂商口径)。

一个定义陷阱,必须写清楚:TypeSafe 宣传的 「0% 幻觉率」指的是「输出是否落在预定义 schema 内」,不是「判断是否正确」。Jev 永远不会给你一个格式错误的答案,但它完全可能给你一个格式完美、内容错误的答案。HN 上那句总结很准:它不会输出无效类型,但会输出完全错误的有效值。

03本期最重要的一篇论文:级联验证救不了自信错误

过去一个月,社区里最流行的架构叫「级联」:Jev 先判,置信度低的再交给大模型复核。直觉上这完美利用了校准概率。arXiv 2609.29769v2《JEV vs. LLMs as Rubric Judges》把这个直觉打穿了。

级联的失效点:两个裁判错在同一个地方 Jev 全量判一遍 84 个「高置信错误」 低置信 → 升级 LLM 复核 252 次裁判投票 242 / 252 = 96.0% 重复了同一个错误 如果两个裁判独立犯错,预期只有 50.3%。 → 复核没有引入新信息,只是投了一次「同意票」。 LLM 复核在 Jev「最自信的错误」上的表现 实测重复率 96.0% 独立犯错预期 50.3% 即便给到「上帝阈值」(oracle threshold),没有任何一种级联 能比最好的单裁判高出 2.7 个百分点以上。 论文的结论不是「别用 Jev」, 而是「级联需要错在不同地方的 fallback」。
论文覆盖 7 个基准、9 个评委面板、与人工评分对齐;Jev 与三个 flash 级 LLM 裁判相比,成本低 16–325 倍、耗时低 28–350 倍,准确率在 27 组配对中最多 8 组有显著差异(二值清单题占优,序数评分题落后)。

这个结论和另外两份独立研究咬得很紧:CMU 的预印本发现「Jev → GPT-6」级联在 41% 成本下打赢了单用 GPT-6;而另一份 JEV-as-a-Judge(510 对偏好样本)显示:0.90 阈值下 Jev 处理 53.7% 样本,级联准确率 92.5%,单用 GPT-6 Astra 是 93.1%,成本为后者的 57–62%。三份研究合起来给的判断是:级联能省钱,但基本不能提准确率。

所以「用大模型兜底」这个默认做法要改。真正的 fallback 必须与 Jev 的失败模式不相关:

① 可执行验证器——跑测试、比 schema、查数据库、算数(Jev 明确不会算数);② 人工抽检——尤其针对「高置信 + 高代价」那一格;③ 另一个模型家族的裁判,且配人工标注的攻击集;④ 随机切片审计——只在低置信区间抽检是错的,因为自信错误全在「被接受」那一堆里。

另外一条纪律是从论文里长出来的,很多团队会踩:绝不要用同一个模型既当闸门又当裁判。如果 Jev 在生产里拦截工具调用,同时又用它给自己打分,那么一个能翻转闸门的输入,同时也能翻转评估——你的看板会对「恰好通过了的那批流量」显示一切正常。

041.14:三个新能力,全在「危险区」

10 月 14 日(官方玩梗:10.14 的 1:14 PM PT)发布 Jev 1.14。中文媒体标题写的是「Jev 会看图做决策了」。读官方公告会发现另一层信息:三项新能力全部默认关闭、全部要求手动打开实验性请求头、官方明说「未达生产标准,风险自负」,而且被统一命名为 Danger Zone(危险区)。

能力请求头可用版本关键限制
图像输入TypeSafe-Danger-Zone-Images: true1.13.0 / 1.14.0仅 PNG / JPEG;单图 ≤16 MiB;每边 280–1568 px;超限直接拒绝、不缩放,一个坏文件整请求失败
Box 问题类型同上(需图像头)仅 1.14.0(1.13 返回 400)返回一个归一化边界框 + 置信度;目标不存在时依然会返回一个框,必须配一个 noul 问「在不在」
262K 长上下文TypeSafe-Danger-Zone-Long-Context: true1.13.0 / 1.14.0默认仍是 64K/请求、32K/问题;开启后更慢、更不准;无价格加成

两个媒体没写、但会咬人的细节:

① 图像支持其实在 1.13 就有了,1.14 只是把它继续留在实验头后面——「会看图」不是新能力,是被承认的实验能力。

② 别名在约 10 月 21 日从 jev-preview 切到 jev-latest。任何写着 model: "jev-latest"、或 Python SDK 没显式设模型、或照 JS 快速开始抄了 defaultModel 的代码,会在你不改一行代码的情况下换模型。概率和置信度会漂移,跨过你阈值的那部分决策比例会变——如果 10 月 21 日前后你的回测结果变了,先怀疑模型,不要怀疑市场。

官方说 1.14 最大的提升是多语言,但文档同时明确:包括中文在内的非英语仍不如英语,建议上线前用自己的内容测。这条对中文场景是硬约束:如果要做中文工单分流、中文内容审核,必须先建一份几百条的中文标注集跑一遍,不能拿英文 benchmark 的成绩推断。

另有一个容易被忽视的「负向更新」:TypeSafe 的「已知短板页」(jaggedness)至今只覆盖 1.13,最后审核日期是 10 月 2 日,所以 1.14 的短板只能假定与 1.13 相同——不擅长算术与计数、日期当文本读、Choice 倾向选第一个选项、长输入会被无关内容干扰(官方原话 「Jev suffers from context rot」)、不把 state 当作敌意输入、是/否问题与其否定式不保证概率和为 1。

05品类地图:五周,从 1 家到 20 多家

这是本期最容易被误读的一张表。它不是「Jev 的竞品清单」,而是一个品类在五周内完成标准化的证据——注意「接口」那一列,绝大多数都写着兼容。

厂商产品形态接口值得注意的点
TypeSafe AIJev 1.14托管原生$0.042/M 输入、输出免费;1.14 图像与长上下文均在危险区
OpenAIDecisions API托管自有DevDay 预览(9-29),10-06 公测;底层是 GPT-6 Luna 套决策接口
MicrosoftMicrosoft-Decision-1托管兼容10-09 上 Foundry + OpenRouter;Qwen3.5-9B 后训练;定价与 Jev 对齐到同一分钱
CloudflareClef 27B / Clef-flash 9B / Clef-omni开源兼容10-01 发布(Apache-2.0),八天后补 Clef-omni(音视频图文本);带 Workers AI 上的 RL 微调平台
AWSStrands Decider 2B开源兼容Apache-2.0;权重 + 训练数据 + 脚本全开,消费级 GPU 可跑
Perplexitypplx-decider 27B / Decider for Mac开源 + 托管自有Mac 版是 4B 本地模型,无需 API Key——对隐私敏感场景意义大
Liquid AId1 / d1-3B / d1-omni-600M托管 + 开源自有首个宣称在 Decision Index 上赢 Jev;Jetson 上 16ms;许可限制:年营收 <$10M 才可免费商用
SnowflakeDecision托管SQL 内通过 AI_COMPLETE 直调,同一套 choice / score / 是非 schema
FastinoGLiDE v1.2开源自有10-22 宣称 Decision Index 71.5 第一;权重很大且非标准许可
Base Labs(Baseten)mammoth-1 27B / elephant-1 9B开源自有10-22 发布,含技术报告,自称登顶 Jev Decision Index
UpstageSolar Decide托管兼容512K 上下文——目前最长的决策模型窗口
SuperagentSecurity-One 27B——只做安全类判断:提示注入、工具调用、代码变更、告警
其他meraGPT Decider 1、Together Tev1、Nace.AI Drex、Hanzo Kai、Respan Span-01、Surogate Rune 26B-A4B、GLiNER2.5-Decide、InternLM Intern-Decision、H2O.ai、PostHog Jeeves混合多数兼容价格带已从 $0.021 到 $0.06/M;最小的决策模型只有 1.44 亿参数、纯 CPU 可跑

这张表最重要的不是谁强,而是「接口归一、产品不归一」:同一套请求格式下,各家在「托管 vs 开权、上下文长度、是否多模态、许可是否限制商用、校准质量」上差异巨大。所以选型问题已经从「用不用决策模型」变成「这六个维度里哪几个对我致命」。

06开源项目:模型层降温,运行时与「判断型应用」升温

星数口径先说明:本节的数字来自 GitHub 榜单快照(10-15 与 10-28 两个时点),同一项目在不同榜单可差数千星,请按趋势读,不要按绝对值排名读。

6.1 模型层:头部稳定,但增速已经放缓

★34.6k

Laya 开源克隆

NandhaKishorM/laya

非自回归决策引擎,100+ 语言,内置语种路由按请求选 checkpoint。自上期 30,404 涨到现在,日增已降到几十星量级(10-27 为 +86)。

上上期已修正:零样本 0.362 < 多数类基线 0.461,定位是「可微调快底座」,不是开箱替代品。这条修正至今有效。
★7k

laya-mlx 运行时装

mizorewww/laya-mlx

Laya 的原生 MLX 运行时,在 Apple Silicon 上本地跑,毫秒级返回 choice / rubric score / 概率。

对你这台机器最实用的一项:本地决策 + 无网络 + 无泄露面。
★3.1k

DeepOpen 开源克隆

deepopen-com/deepopen

同类非自回归决策引擎,强调 33ms 与 100+ 语言,覆盖文本 / 邮件 / 工单 / JSON。

克隆层的同质化已经很严重:功能描述几乎可以互换,差异只剩语言覆盖与部署形态。
★1.4k

Ollaya 运行时 本期推荐

ollaya-dev/ollaya

Rust 单二进制,「决策模型界的 Ollama」:pull / run / list / ps 一把梭,HTTP 层与 /v1/systemone 线级一致,改一个环境变量就能把现有 Jev 客户端切过来。只分发 ~3MB ONNX 图,权重从作者 HF 仓库按 commit + sha256 直读,不重托管。

自曝的短板很诚实:类型化决策准确率 0.722,托管 Jev 是 0.738。4090 上 laya:en 五问 8–10ms。

6.2 应用层:新热点全在「让判断发生在生成之前」

★3.5k

Open Intelligent UI 新

(jevfast 目录收录,10-10)

先让 Jev 决定这段回答该用文本、表格还是交互图,再让聊天模型去生成。把「呈现形式」从生成模型的随机选择变成一次显式决策。

思路上最干净的一个:判断在生成之前,而不是生成之后再修。
★5.1k

AutoRAG Jev Decisions

(10-06 收录)

给本地文档智能体加一层可选 Jev 工具,做类型化分类、路由、打分;阈值与执行策略始终留在调用方。

「模型只给判断,策略留在代码」——这是本月所有成熟项目的共同签名。
★2.3k

Bespoke Nimble 新

bespokelabsai/nimble

把「文本 + 问题 schema」变成类型化决策,一次前向返回每个选项的概率。公开了配方和训练好的 Bespoke-Nimble-9B。

这是「自己训一个」从论文走向可复现工程的分水岭项目。
★2.8k

typesafe-ai/skills 官方

typesafe-ai/skills

官方出的智能体技能包:让你的编码智能体去拿类型化决策和概率。取代了此前社区各自维护的 skills 包,成为这一层的标准入口。

官方亲自做 skills,说明「给智能体装判断能力」已是主战场,不只是社区玩法。
★310

Astra-Ares 有想法

miuuyy/Astra-Ares

让 Jev 在 Codex 任务运行过程中动态调整 GPT-6 的推理力度——每一步匹配不同的思考深度来省 token。

把决策模型从「选动作」推进到「选算力预算」,这是本期看到的最新颖的一种用法。
★431

Jeeves(PostHog)

PostHog/jeeves

Jev 风格但先想一下再选:Qwen3.5-9B + LoRA,输出前走一段推理链,再给校准后的是/否、多选或评分,还带 diffusion drafter 加速。

方向上与大厂「会思考的决策模型」一致(GLiDE 也走这条),代价是延迟。是否值得看你的场景。

一条需要防的统计假象:目录里排在最前的 ekko-studio(★11.6k) 是一个通用的本地优先多智能体工作台,只是「可选地」用 Jev 做记忆筛选和技能选择。它的星数不是 Jev 带来的,把它当成「Jev 生态第一项目」会得出完全错误的结论。同理,awesome-jev 这类索引仓库(★2.5k)的增速快于被索引内容的质量,高星不等于高收录质量。

本期其他值得知道的新项目(按用途归类,星数从数十到数百,均未生产验证):判断型护栏 JEV Shield(★202,给提示注入和待执行 shell 命令打分)、jev-guard、Jev Guards(不可逆操作前的语义护栏);记忆治理 Zerikai Memory、Invalidate(判断已存事实是否还成立)、Jev-Mem;代码与检索 Jev Codebase Search、sys1grep、jev-test-filter(只跑受本次 diff 影响的测试);消费级玩法 Jev Cards(10-20 上 HN 的看图答题游戏,模型约 0.25 秒作答,也是第一次把视觉能力放到公众面前做非正式 benchmark)、Slop Filter(识别 AI 味文字)、Jeved;交易 beebots(★330,OKX 永续,三只「蜂」竞赛,默认纸面交易)。

07一手统计更新:855 个 build,作者留存仍是零

《Jev Build Report》在 10-15 更新了第二版(覆盖发布后 31 天)。相比上期引用的 10-04 版,样本从 755 增至 855,结构性判断没变,但几个数字更锋利了。

31 天公开 build
855 个
中位单次决策成本
$0.000065 ≈ $1 买 15,291 次
中位延迟
300 ms(19 个中 18 个 <1s)
新仓库 TS/JS 占比
42.5% vs Python 39.1%
只发过 1 个 build 的作者
729 / 781
公布了任何数字的 build
424 / 855

最该记住的两句:「注意力集中,工作不集中」——前 5 个仓库吃掉 59.7% 的星,中位仓库只有 22 星,229 个不到 50 星;「一周的 crowd,不是 community」——781 个作者里 729 个只做过一件事,只有 52 个做过两件以上。

把这条和上期的「755 个 build / 20 天」并起来看,增速从每天约 38 个降到约 8 个(10-06 后单日新增明显变稀)。同时外部注意力也在转移:10 月中旬另一个叫 REA 的项目三天冲到近 7 万星,把 GitHub 趋势榜的注意力整块吸走(单一来源,仅作背景参考,与 Jev 无技术关系)。这不是衰退,而是从「发布事件」回到「常态使用」——恰好也是判断真实价值的时点。

报告自己列出的三个不能说的:① 所有数字都是作者自报、未经复现;② 准确率基本缺失——成本和延迟好贴,留出集不好贴,所以任何用这页数字做的「Jev vs 大模型」比较,比的只是价格和延迟,不是质量;③ 目录是个人策展的,不是全量普查,且星数是快照。

08落地纪律(第 6 期修订版)

上期 8 条,本期新增 5 条、修订 2 条。带 新 的是本期因事故或论文而加的。

09结论:品类成立,供应商未定,信任待补

44 天,这个生态讲完了三段故事,而且每一段的结论都不同。

第一段(1–14 天):一个模型。结论是「快得离谱、便宜得离谱」。这段的多数数字来自厂商自测,后来被逐级修正。

第二段(15–30 天):一个品类。结论是「接口标准化、实现多样化」。这段的收获是真实且持久的——把判断从生成里拆出来这个架构想法,不会因为谁家模型好坏而消失。

第三段(31–44 天):一笔账和一次事故。结论是「省下的钱是真的,省下的验证不是」。Vercel 的 35.3% 触达是真的,0.15% 花费也是真的;级联能省钱是真的,级联不能提准确率也是真的;「0% 幻觉」是格式承诺,不是正确率承诺。

如果要给一个可执行的判断:2026 年 10 月底,「决策模型」已经是一个可以放心押注的架构位置,但还不是一个可以放心押注的单一供应商。合理姿势是三件事同时做——

① 把接口抽象出来(state + 类型化问题 → 一次往返),代码只依赖契约;
② 把一个真正高频的判断搬上去(工单分流、内容审核、工具调用前检查),用自有标注集量出准确率与校准;
③ 敏感的那条链路留在本地,托管只放低风险判断。

最后一句提醒,给所有准备把「判断」外包出去的人:决策模型降低的是每次决策的成本,不是决策本身的责任。它会给你一个漂亮的概率,但阈值设在哪里、错了谁承担、什么情况下必须有人看——这三件事,模型永远替你决定不了。