Gemini Decision 1发布:不逐Token生成,准确率最高92.2%
作者|冬梅当整个 AI 行业还在比拼谁能生成更多 Token、谁的推理能力更强时,谷歌却推出了一款不靠逐字生成答案的新模型。刚刚,谷歌正式发布 Gemini Decision 1,同时推出由该模型驱动的 Gemini Decisions API。与传统生成式大模型不同,这款模型专门用于快速决策,不需要逐个 Token
生成更多 Token、比拼推理能力仍是行业当下的主流竞赛,谷歌却拿出了另一套思路:新模型不靠逐字生成答案。
这款模型名为
Gemini Decision 1,谷歌在发布它的同时上线了由它驱动的 Gemini Decisions API。它面向快速决策场景,不逐 Token 生成文字,改为做单次前向传播,给预先设好的候选答案打分。
谷歌 CEO Sundar Pichai 在 X 平台发文,介绍了 Gemini Decision 1 的主要能力。他写道:
今天,Gemini Decisions API 在 Google AI Studio 正式上线,背后是新模型 Gemini Decision 1。
这款模型专为封闭选项集的决策任务设计,与逐个 Token 出文本的传统模型不同。单次处理中,它能对文本、图像、音频、视频以及 PDF 里的最多 1000 个问题评分。
有几个细节值得关注:
· 决策类型共三种:是 / 否判断、多项选择(选项最多 255 个),以及按评分标准打分;
· 价格方面,每百万输入 Token 只收 0.10 美元,输出 Token 不收费,成本大约为 Flash-Lite 的五分之一;
· 多项基准评测中排名领先,校准误差也是最低的。
谷歌内部团队已经用上了这项技术。
他还演示了 Stitch Rapid 在几秒钟内设计出完整产品流程,视频按正常 1 倍速播放。
这段介绍点出了 Gemini Decision 1 与传统大模型的关键差别:它不做“把答案说出来”的事,只管从已有选项里作出判断。
以前开发者想让 AI 判断一封邮件是不是垃圾邮件,或者决定某项任务该派给哪个 Agent,通常得调用生成式大模型,再从生成的文本里把结果提取出来。Gemini Decision 1 把逐字解码这一步直接省掉了。
开发者提供输入内容、待判断的问题和候选选项即可,模型直接返回判断结果、概率和置信度。
换句话说,任务本来只需要一个分类、评分或选择结果时,AI 不必再走完整套文本生成流程。
谷歌公布的数据显示,Gemini Decision 1 一次请求最多能处理 1000 个独立问题,输入支持文本、图像、音频、视频和 PDF 等多模态形式,端到端延迟只有 150~250 毫秒。
定价同样激进:每百万输入 Token 0.10 美元,输出 Token 免费。在谷歌公布的同一组基准测试里,其调用成本比 Gemini 3.5 Flash-Lite 低近 5 倍。
它也不只是用来回答选择题的。谷歌已把它用在 AI 模型路由、Agent 工具选择、产品设计以及安全检测等场景,想让它成为 AI 系统里专门负责判断与决策的底层组件。
Google 发布的技术介绍显示,Gemini Decision 1 的核心决策能力分为三类。
第一类是 Yes/No(二元判断),比如判断图片中有没有安全隐患,或者一段文本是否违反既定规则,模型会给出条件成立的概率。
第二类是 Multiple Choice(多项选择),候选选项可由开发者预设 2~255 个,模型除了挑出最符合条件的那一个,还会返回每个候选项归一化后的概率。
第三类是 Ordered Rubric(有序标准评分),评分标准的各等级由开发者自行定义,模型据此评价输入内容,返回连续加权分数以及各等级的概率。
这三类任务还能在同一个请求里混合执行。
谷歌给了一个很直白的例子:上传一张办公室茶水间台面的照片,再配一段文字,让模型一次性回答三个问题——桌上有没有液体洒出来、该怎么清理、现场严重到什么程度。
放在过去,这种活儿得摆出好几个分类器,或者拿生成式大模型分别跑不同的提示词。Gemini Decision 1 的做法是,一次请求就把这些判断全做完。
输入侧还有一个硬指标:多模态上下文最高支持 256K Token。落到企业场景里,开发者可以把通话录音和客户资料摆在一块儿分析,也能把保险索赔文件和现场照片放在一起下判断。
每个决策结果都会附带 0~1 的置信度,系统据此可以把没把握的结果转给别的模型,或者交给人来复核。
速度和成本,是 Gemini Decision 1 的另一张牌。
按照谷歌官方的说法,在覆盖 Agent 路由、推理、排序和多模态理解的基准评测里,这款模型处于领先位置,校准误差也是最低的。
测试上下文不超过 16K Token 时,模型计算阶段的中位延迟落在 50~100 毫秒,端到端大约 150~250 毫秒。单次请求里的问题从 1 个加到 100 个,延迟基本没什么波动。
在官方采用的共同基准测试集上,走 Gemini Decisions API 的成本,比通过 Interactions API 调用 Gemini 3.5 Flash-Lite 便宜近 5 倍。
伴随 Gemini Decision 1 的发布,谷歌还晒出了一份颇有看头的模型对比成绩。
和常见的通用大模型混排不同,谷歌这次挑了三款竞争产品来对标:
结果是这样的:Gemini Decision 1 在 9 项基准测试中 7 项排第一,概率校准方面同样占优;不过另外两项测试以及总调用成本上,仍有对手表现更好。
JevBench 测试里,Gemini Decision 1 的准确率是 92.2%,压过 GPT-6 Luna 的 90.9%、TypeSafe Jev 1.14 的 90.0%,以及 Gemini 3.5 Flash-Lite 的 86.6%。
Amazon ESCI 商品搜索相关性测试中,Gemini Decision 1 拿到 58.7% 的 Macro-F1 分数,比 GPT-6 Luna 高 4 个百分点,比 Flash-Lite 高 11.5 个百分点。
New Yorker Caption 测试的差距更大。Gemini Decision 1 拿到 79.7%,GPT-6 Luna 是 68.4%,两者相差 11.3 个百分点。这项测试考的是对漫画配文的理解和挑选,看模型能不能读懂语境、判断候选内容。
医学问答测试 PubMedQA 里,Gemini Decision 1 同样排第一,得分 79.8%,GPT-6 Luna 为 74.4%。
多语言测试 Global-MMLU-Lite 的结果差不多。Gemini Decision 1 取得 86.0%,GPT-6 Luna 是 79.6%,相差 6.4 个百分点。
但谷歌并没有做到全面领先。
Mind2Web Multimodal 测试中,TypeSafe Jev 1.14 以 86.8% 排在第一,Gemini Decision 1 为 86.2%,落后 0.6 个百分点。
到了考工具调用判断力的 When2Call 测试,TypeSafe Jev 1.14 的优势更明显:82.0%,Gemini Decision 1 为 79.9%。
这个结果有点扎眼。工具选择和调用时机的判断,正是 Gemini Decision 1 主打的 Agent 应用场景之一,可这项测试里,专用决策模型 TypeSafe Jev 还是跑在了前面。
音频理解测试 MMAU 和视频理解测试 Video-MME 中,Gemini Decision 1 分别得到 71.8% 和 69.1%,都高于 Flash-Lite。
比准确率更该留意的,是谷歌这次特意强调的概率校准能力。
Top-1 ECE(Expected Calibration Error,预期校准误差)测试中,Gemini Decision 1 的校准误差只有 0.0250;对比之下,GPT-6 Luna 为 0.0721,TypeSafe Jev 1.14 为 0.0494,Flash-Lite 高达 0.2104。
换算到这组评测里,Gemini Decision 1 的校准误差比 GPT-6 Luna 低约 65%,比 Flash-Lite 低约 88%。
对 Agent 系统来说,这项指标的分量格外重。
举个例子,Agent 要判断一段代码有没有安全漏洞,模型输出的不只是“存在”或“不存在”,还可能附带一个概率值。系统依据概率和实际正确率之间的对应关系,就能决定是自动执行动作,还是转交人工再核查。
有些新模型只摆出基准成绩,谷歌这次不一样,还公开了 Gemini Decisions API 在其内部产品中的落地案例。
其中被重点提及的是 Gemini Notebook。
谷歌让 Decisions API 承担实时模型路由的角色,按用户请求的复杂程度匹配模型档位和思考强度。日常简单问题,优先调用成本低、响应快的模型;碰上复杂推理任务,再把请求转给能力更强的模型。
按照谷歌的说法,这种动态路由能让日常查询的延迟最多降低 40%。
这套思路和当下 Agent 系统的走向对得上。Agent 完成一项任务,过程中要不停判断下一步做什么,比如选哪个工具、调哪个模型,或者要不要让人介入。
每个简单决策都丢给大型生成式模型,系统就得额外背上延迟和成本。专用决策模型提供了另一条路:选项明确、相对简单的判断交给低延迟模型,复杂任务留给通用大模型。
除 Gemini Notebook 之外,谷歌还公开了另外三个应用方向。
Google Stitch 里,新推出的 Rapid Canvas 实验功能借助 Decisions API,几秒钟就能生成可交互的产品流程线框图,并对用户通过语音或点击下达的修改指令快速作出响应。设计方向确认后,页面可以转入完整的 Stitch 工作流继续打磨。
Google Labs 的 CC 产品中,Decisions API 负责从超过 200 个 Emoji 选项里快速挑出合适的表情反应。在 Google Search 内部,谷歌还用这个 API 给 MCP 工具搭了一层安全检测,用来识别潜在的对抗性行为及内容。
参考链接:
https://blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/