Gemini Decision 1发布：毫秒级批量判断，不闲聊

谷歌新推出的 Gemini Decision 1，走的是只判断、不闲聊的路子。

用过大型语言模型（LLM）的人多半遇到过这种情况：问它“这张图片里有没有猫”，它不会干脆回“有”或“没有”，而是先铺垫一段“在这张图片中，我们可以看到……”，末尾才给出结论。对人来说这很自然，可对每秒要处理成千上万次请求的代码来说，这些“废话”既费钱又拖慢速度。

Gemini Decision 1 就是冲着这个痛点来的。它的定位相当极端：不聊天、不创作、不解释，只负责做判断。可以把它想成一个高速运转的裁判，而不是一个健谈的助手。

这个模型的核心本事是“批量决策”。一次调用里，你可以把包含文本、图片、音频甚至视频的综合材料扔给它（最长支持 256K tokens），让它同时回答最多 1000 道题目。题目可以是是非题、多选题，也可以是给某个维度打分。全程只需 150 到 250 毫秒，而且一道题和一千道题的延迟几乎没差别。

为什么需要一个“不做生成”的模型？

要理解 Gemini Decision 1 的价值，得先看看传统 LLM 是怎么干活的。

传统生成式模型走的是“自回归”路线。哪怕你只想要一个简单的“是”或“否”，模型也得一个字一个字把答案“吐”出来。答案稍长一点，或者模型习惯性加些客套话，消耗的 Token 数量和等待时间就会线性增加。更关键的是，这种串行生成的方式，决定了它很难靠简单的并行化大幅压低延迟。

Gemini Decision 1 换了思路。它跳过“生成 Token”这一环，直接在候选选项上打分。好比考试做选择题，传统模型是把正确答案抄一遍，Decision 1 是直接涂答题卡。因为不用逐个输出字符，输出端的成本和延迟从根上就没了。

这种架构带来一个直接好处：输出免费。计费上，你只为输入的上下文付费，不管模型返回多少个判断结果，输出端都不收钱。对需要高频、批量判断的场景来说，比如从几百个工具里挑出最合适的一个，或者对海量内容做初步合规筛查，这种成本结构很有吸引力。

技术底层的几个关键变化

谷歌没有公开全部技术细节，但从它的表现和官方描述里，可以梳理出几个核心的技术特征。

一是单次前向传播打分。模型在内部对所有候选选项做一次性概率计算，直接输出归一化的概率分数。这意味着它不再受生成速度的瓶颈限制，计算耗时主要取决于输入内容的编码和内部推理，而非输出长度。这也是它能做到 50-100 毫秒纯计算延迟、题目数量增加几乎不影响总耗时的原因。

二是原生多模态共享上下文。很多实际应用里，判断依据往往是混合的。比如审核一个视频广告，可能要结合视频画面、背景音乐以及附带的文字说明。传统流程中，开发者可能得分别提取特征再融合，或者多次调用模型。Gemini Decision 1 允许把文本、图片、音频、视频和 PDF 混在同一份输入里。关键在于，这份共享输入只被编码一次，随后被所有题目复用。每增加一道题，只需额外处理该题目的题干和选项 Token，边际成本极低。

最后是校准的置信度输出。对自动化系统来说，知道模型“有多确定”往往比知道“答案是什么”更重要。Gemini Decision 1 输出的每个概率都经过专门的校准训练，数值尽可能接近真实的正确率。如果模型对某个判断的置信度低于设定阈值（比如 0.8），系统可以自动把该任务转交给更强大的模型（Fallback）或人工复核。这套机制在保证效率的同时，给安全性留出了缓冲地带。

实际应用场景：它到底能干什么？

既然不擅长聊天，它的用武之地在哪里？主要集中在那些需要快速、准确、批量做选择的环节。

1. 智能模型路由（Model Routing）

眼下被普遍看好的落地场景里，这算一个。模型家族越铺越大，企业手上往往同时握着轻量模型、中等模型和价格不菲的深度推理模型。每个用户请求该分给哪个模型，说到底是在成本和体验之间找平衡。

Gemini Decision 1 可以当入口处的“交通警”。用户发起查询时，先由 Decision 1 快速判断问题复杂度。简单的常识问答，直接路由到便宜的轻量模型；复杂的逻辑推理或代码生成，再调用高端模型。谷歌数据显示，这种策略能把整体延迟降低 40%，同时显著节省算力成本。毕竟 Decision 1 本身极快且便宜，拿来当前置过滤器很划算。

2. 内容安全与合规审核

内容平台每天面临海量的图文视频审核需求。传统审核流程可能要多个模型串联，或者依赖人工抽检。用 Decision 1，可以把审核规则转化成一系列是非题或打分题。例如：“这段视频中是否包含暴力画面？”、“这段文本的情感倾向是否为负面？”

由于支持多模态输入，它能同时分析视频帧和音频轨道。置信度高的判断直接自动执行（通过或拦截）；置信度低的边缘案例，自动标记并转交人工团队。这种分层处理机制能大幅减少人工审核的工作量。

3. Agent 中的工具选择（Tool Selection）

在 AI Agent（智能体）应用中，模型需要从众多可用工具里选出最合适的一个来执行任务。如果让主模型逐个思考并生成调用代码，不仅慢，还容易出错。

把所有可用工具的描述当成选项交给 Decision 1，模型一次就能挑出最匹配的那个。它支持 2 到 255 个选项，工具库再复杂也扛得住。这种一步到位的选法，比让 LLM 一步步推理快不少，实时交互场景更吃得开。

4. 客服工单自动分级

设想一个客服中心，每天涌进大量用户投诉。有的是紧急技术故障，有的只是普通咨询。把通话录音（音频）和工单文本（文本）放在一起，Decision 1 就能用打分题给工单的紧急程度自动定级。高分单子优先交给资深客服，低分单子走自助系统。靠多模态信息做即时分级，客户满意度能明显往上走。

与竞品的对比：优势与局限

决策类模型这条赛道上，谷歌并不是独一家。市面上已经有 Jev 等专攻决策的第三方模型。按谷歌给出的评测数据，Gemini Decision 1 在多项指标上各有各的长处。

性能上，谷歌称自家 9 项评测里 Decision 1 拿下 7 项领先，知识与推理类任务尤其突出。JevBench 基准测试中，它也领先了 2.2 分。不过分类、信息提取这些传统强项上，部分竞品可能更稳，说明 Decision 1 偏重的是复杂情境下的综合判断，而不是简单的标签分类。

成本结构是另一处关键差别。Gemini Decision 1 输入每百万 Token 0.10 美元，输出不收费。一些竞品的输出端却还要计费，输出量大的场景下，规模越大这笔差距越明显。另外 Decision 1 单次能批量处理 1000 道题，不少竞品对单次请求的题目数量卡得较紧，落到工程实现上，就是网络往返开销更少。

局限当然也有。需要创造性回答或长篇解释的任务，它并不合适。应用场景若要模型给出详细推理过程或人性化沟通，传统大语言模型仍是更优解。说到底，Decision 1 更像一个底层基础设施组件，而不是面向最终用户的产品界面。

如何接入与使用

对开发者来说，接入 Gemini Decision 1 的流程比较标准化，但有几个细节得留心。

第一步是通过 Google AI Studio 拿 API Key。目前 Decisions API 只在v1beta版本里提供，所以初始化客户端时必须指定api_version="v1beta"。还要确认装上的google-genaiPython SDK 版本不低于 3.2，否则新的决策接口可能支持不了。

构建请求时，关键是把共享输入和具体问题分开。

• Input 字段：所有题目共用的背景材料放这里。比如一段客服录音、一张待审核的图片或一份 PDF 合同。这部分只计费一次。
• Questions 字典用来定义具体的判断任务。三种题型可以混着用：
  • noul是非题，二元判断用。
  • choice选择题，支持 2 到 255 个选项，多选一场景用。
  • score打分题，对某个维度做量化评估用。

调用 client.decisions.create提交之后，200 毫秒左右就能收到返回结果。里面不光有每道题的最佳答案，还有各选项的概率分布和置信度分数。建议在代码里加一层逻辑判断：置信度低于某个阈值（比如 0.7 或 0.8）时触发降级策略，比如叫更强大的模型重新判断，或者记日志留给人工后续审查。

结语

Gemini Decision 1 的问世，说明大模型应用正从通用聊天向专用基础设施分化。过去大家想用一个万能的聊天机器人包打天下，结果简单任务上反而耗掉太多算力和时间。谷歌这次把生成功能剥出去，做出一个极致专注的决策引擎。

这不代表传统 LLM 会被取代，AI 架构会因此变得更分层、更精细。往后的 AI 应用里，可能出现这样的搭配：Gemini Decision 1 管高速路由和初步筛选，轻量级模型应付常规对话，顶级推理模型专门啃最棘手的难题。各司其职地协作，或许才是把 AI 应用的效率和经济性同时提上去的路子。

对开发者而言，当下恰好是试这种新范式的时候。手上已有的 Agent 架构想再优化，或者要从零搭一套实时审核系统，Gemini Decision 1 都算一个可以拿来试的新选项。