最新消息:

Jev:比 LLM 快百倍的 System One Model,把 AI 变成软件里的“智能 if 语句”

佳软 yeeach 23浏览 0评论

 

这几天由前 OpenAI 研究员 Diogo Almeida 创办的 TypeSafe AI 推出的新模型 Jev 爆火,社交媒体圈全是关于Jev 的报道,但内容基本上千篇一律,都是官方博客内容的简述,虽然能明白大概用途,但没有更直接的例子。刚好接连有几个与 Jev 有关的热门开源项目发布,结合起来更有助于理解 Jev 的价值。

Jev 官方博客介绍:https://typesafe.ai/blog/introducing-system-one-models-and-jev

过去几年,大模型越来越聪明。从 ChatGPT 到 Claude、Gemini,模型开始写代码、操作浏览器、调用工具,甚至可以把一个复杂任务交给 Agent 自己规划执行。

TypeSafe 创始人 Diogo Almeida 在宣布 Jev 时问过一个问题:模型已经会聊天很多年了,自动化到底卡在哪里?

Diogo Almeida 自己的答案是:问题可能不是 AI 不够聪明,而是我们一直在使用一种并不适合自动化的软件接口。

传统 LLM 本质上是一个:输入文本 -> 模型 -> 输出文本

它非常适合聊天、写作和解释问题。

但软件真正需要的往往不是一篇回答,而只是一个可靠的决定,例如:

  • 这封邮件是不是垃圾邮件?
  • 这个用户有没有流失风险?
  • 这笔交易是否异常?
  • 这个请求应该路由给哪个部门?
  • 网页上的下一步应该点击哪个按钮?

为了这些问题,让一个大模型先生成几十甚至几百个 Token,再解析它的 JSON、验证字段、处理异常。

这种模式看似灵活,实则暴露出了生产环境中的三大痛点:

  • 高延迟(Latency): 逐字生成的自回归(Autoregressive)机制导致动辄几秒甚至更长的等待。
  • 格式幻觉(Type Errors / Hallucination): 即便限制了 JSON Mode,模型仍可能输出不合规的字段或越界枚举。
  • 过度自信(Overconfidence): LLM 极不擅长给出精准的概率评估,很难确定它“什么时候不知道”。

TypeSafe 因此提出了一种新的模型类别:System 1 Models。他们推出的第一个模型,就是 Jev。

System 1 Model 的概念来源于诺贝尔心理学奖获得者丹尼尔·卡尼曼(Daniel Kahneman)的《思考,快与慢》。

卡尼曼将人类思维分为两个系统:

  • System 1(系统 1): 快速、直觉、无意识的即时决策(如:看一眼红绿灯决定走还是停)。
  • System 2(系统 2): 慢速、理性、逻辑推理(如:解一道复数数学题)。

现在的 LLM(尤其是具备思维链 Reasoning 的模型)本质上是在模拟 System 2。然而,在现代软件架构中,大部分智能化需求本质上都是 System 1 决策。

 

TypeSafe 对 System 1 Model 的核心定义:

放弃非必要的字符串生成能力,将“非结构化的状态(State)”直接映射为“强类型的概率决策(Typed Probabilistic Decisions)”。

传统 LLM 模式:非结构化 State ──> [ 逐 Token 生成文本 ] ──> JSON 解析 ──> 校验类型 ──> 业务逻辑

System 1 模式 (Jev):非结构化 State + Schema ──> [ 并行采样 (Parallel Pass) ] ──> 强类型决策 + 置信度 (70~500ms)

Jev 的三大核心突破

Jev 作为首个公开的 System 1 模型,带来了几个令人振奋的特性:

1. 并行采样(Parallel Sampling),极致响应速度

Jev 不再逐字吐出 Token,而是在一次网络往返(Single Pass)中并行输出预定义 Schema 内的所有概率。端到端延迟降低至 70ms – 500ms,速度比传统 LLM 快 10 到 100 倍。

2. 架构级“零幻觉”与零类型错误

由于模型输出被直接约束在数学上的强类型 Schema 内,Jev 无法生成任何 Schema 之外的乱码,类型错误率在数学层面上降为了 0%。

3. 精准校准的置信度(RLCD 训练)

Jev 使用了 RLCD(Reinforcement Learning for Calibrated Decisions,校准决策强化学习) 训练方法。与传统的 RLHF 不同,RLCD 专门优化概率预测的校准度(Calibration)。这意味着:如果 Jev 给出 95% 的置信度,它在统计上就有 95% 的概率是正确的。开发者可以据此设置硬性阈值,低置信度的决策自动降级(Fallback)给人工或大模型处理。

 

Jev 落地范例 Jev Ultrafast 剖析

Jev Ultrafast:https://github.com/browser-use/jev-ultrafast

Jev Ultrafast 由 Browser Use 与 TypeSafe 合作发布,是一个把 Jev 当作决策引擎的浏览器 Agent ,可以作为理解 Jev 的 MVP 范例来研究 。

Jev Ultrafast 完全放弃了截屏和视觉模型,引入了 原子 DOM 映射 + System 1 快速决策架构:

  • 直接读取 DOM 结构: Agent 抽取当前页面的可点击元素,构建一个带索引的动作空间表(Indexed Action Space)。
  • 将状态传入 Jev: 传入 DOM 状态以及期望完成的目标(例如:“点击提交按钮”)。
  • 单次往返输出原子操作: Jev 在几毫秒内同时预测出两个强类型字段(action 与 target_index)。模型完全不需要生成任何坐标或选择器字符串,直接返回精准的目标索引!

这种架构将单个操作的决策延迟降低到了 毫秒级,极大地提高了自动化执行的速度与稳定性,同时 token 成本仅为大模型的零头。

Jev Ultrafast 证明了一种不同于“大模型 Agent”的浏览器自动化路线:不要让 LLM 每一步都重新理解世界和长篇推理,而是把网页压缩成有限、类型安全的动作空间,让 System 1 模型快速做结构化决策,仅在真正需要语言生成时调用 LLM。

 

System 1 Model 的典型应用场景

System 1 Model 最典型的场景,不是“写一篇文章”或“解决一道复杂数学题”,而是:输入一个复杂状态,快速做一个受约束、可量化、可直接被程序使用的判断。

比较典型的应用包括:

  • 风控与反欺诈:判断一笔交易的欺诈概率、账号是否异常、登录行为是否可疑,然后由代码决定放行、二次验证或人工审核。
  • 客服工单路由:判断用户意图、紧急程度、情绪风险、所属部门,把工单直接分发给正确队列。
  • 销售线索评分:根据公司信息、访问行为、邮件互动等判断 Lead 的成交概率、优先级和下一步动作。
  • 用户流失预测:判断某用户是否存在流失风险,并按概率触发优惠、客服介入或挽留流程。
  • 内容审核:快速判断垃圾信息、诈骗、骚扰、成人内容、版权风险等类别,再由规则系统决定是否屏蔽、降权或人工复核。
  • 搜索与推荐重排:判断多个候选结果与当前用户意图的相关程度,用作 reranking,而不是生成一段解释。
  • 广告投放决策:判断一次展示是否值得竞价、用户对某广告的兴趣概率、品牌安全风险等。
  • 邮件自动化:判断邮件是账单、投诉、销售询盘、垃圾邮件还是重要客户来信,并决定归档、转发、提醒或回复流程。
  • 浏览器 Agent:像 Jev Ultrafast 那样,根据当前 DOM 状态直接决定 CLICK / SELECT / TYPE / SCROLL / DONE 以及目标元素。
  • GUI / Computer Use:面对桌面软件界面,快速判断下一步操作对象,而不让大模型每一步都进行长推理。
  • 机器人与实时控制:根据传感器和环境状态快速选择有限动作,例如停止、避障、抓取、转向。这里尤其看重低延迟。
  • 游戏 AI / NPC 行为:根据战场状态快速判断进攻、防御、撤退、治疗、寻找掩体等动作。
  • 供应链异常检测:判断订单、库存、运输状态是否异常,以及应该正常处理、加急还是人工干预。
  • 设备故障预警:根据传感器数据和日志判断设备目前属于正常、异常、严重异常或需要检修。
  • 网络安全 SOC:面对大量日志和告警,快速判断威胁等级、是否值得升级、应该分配给哪个响应流程。
  • 代码仓库自动化:判断 Issue 属于 bug、feature、security、documentation,PR 风险高低,CI 异常是否值得人工介入。
  • 文档与数据分类:把合同、发票、简历、报表快速分到固定类别,并判断需要走哪个后续 workflow。
  • 金融审批辅助:判断申请属于低风险、中风险、高风险,或者需要补充材料,但最终审批规则仍由确定性程序控制。
  • 保险理赔分流:快速判断简单案件可否自动处理、是否存在欺诈迹象、是否需要人工调查。
  • 医疗系统中的非诊断型分流:例如根据结构化信息判断消息优先级、应该进入哪个流程。高风险医疗决策本身仍需要更严格的人类与专业系统把关。

 

双模型协作(Dual-Model Orchestration):未来的 AI 软件架构

Jev 的出现并不意味着传统 LLM(System 2)会被淘汰,而是预示着混合模型架构时代的到来:

System 1 (Jev): 负责高频、实时、高可靠性的微观决策(路由、动作选择、分类、过滤、阈值校验)。

System 2 (GPT-5/Claude/DeepSeek): 负责低频、长链条的复杂推理与自由文本生成(摘要撰写、长文解答、复杂代码编写)。

 

Jev 现在仍然处于早期阶段,TypeSafe 也明确表示目前正在 Early Access。但 Jev 无疑给整个行业带来了新的思路。

 

 

发表我的评论
取消评论
表情

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址