谷歌Gemini Decisions API上线:100个问题0.41秒,输出Token不收费
智东西(公众号:zhidxcom)编译 | 黄菲编辑 | 江宇智东西11月12日消息,今日,谷歌宣布推出Gemini Decisions API,该API可通过同日新发布的模型Gemini Decision 1调用。与传统生成式模型不同,Gemini Decision 1可以直接评估输入内容,并针对最多1000个预设问
智东西11月12日消息,谷歌今日推出
Gemini Decisions API,同日发布的新模型Gemini Decision 1可用于调用该API。和普通生成式模型不同,Gemini Decision 1能直接评估输入内容,并针对最多1000个预设问题一次性给出判断。输入形式覆盖文本、图像、音频、视频和PDF,输出Token不收费。
性能上,谷歌表示,在多模态输入最多16K Token的情况下,Gemini Decision 1的模型计算延迟中位数为50至100毫秒,端到端延迟为150至250毫秒。
定价上,Gemini Decision 1每百万输入Token收0.1美元(约合人民币0.67元),输出Token免费。按谷歌的说法,这一成本大约是Gemini 3.5 Flash-Lite通过Interactions API调用成本的五分之一。
API上线后,网友评价并不一致。一名用户说:“炒了这么久,结果就这?不过,我确实会用它来做路由。只为了回答是或否就让一个聊天模型专门生成一整段话,一直让我觉得有些大材小用。但这也算不上多么创新,类似的东西我们已经见过不少了。”
另一名用户则关心一个实际问题:“如果给出的选项都不正确,它会怎么回答?总体来说,我很高兴看到这项功能,尤其是它支持多模态输入,这对我的资产分类工作很有用。”
也有人认为,这项API值不值,要看实际速度:“如果它真的比让普通模型直接作出判断更快,那就很有意思。我宁愿两秒钟就得到答案,也不想等一段自己根本不需要的长篇解释。”
同一天,个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)用免费API密钥做了实测。54次调用、30条客服工单和8项多语言任务全部分类正确,单次处理100个判断问题只用了0.41秒。不过莱西亚发现,输入超出预设范围时,模型会强行把它归入已有类别。
现在,Gemini Decisions API已经进入Gemini Notebook等谷歌内部产品,谷歌搜索也把它用于模型上下文协议(MCP)工具的安全防护。开发者可在谷歌AI Studio获取API密钥,用免费额度做原型开发。
谷歌AI Studio地址:https://aistudio.google.com/
一、支持三类判断方式混用,单次请求最多处理1000个问题
Gemini Decisions API用三类判断方式处理开发者预先定义的问题:是非判断(Yes/No)、多项选择(Multiple Choice)和分级评分(Ordered Rubric)。这三种方式可以在同一次请求里混着用。
是非判断用来估算某个条件成立的概率,开发者还能分别设定条件成立和不成立时的描述标准。多项选择支持2至255个候选项,模型挑出最符合要求的一项,并返回每个候选项的归一化概率。分级评分按从0开始的有序标准评估输入内容,返回加权后的连续分数,以及各评分等级对应的概率。
三种判断方式都会附带0至1之间的置信度分数。开发者可依据置信度设定处理规则,比如把模型拿不准的结果交给备用模型,或者转人工审核。
多模态处理方面,Gemini Decision 1基于Gemini原生多模态架构,一次模型计算就能直接处理文本、图像、音频、视频和PDF文件。不同类型的内容能放进同一份输入,比如把通话录音和账户信息放在一起分析,或者把PDF保险理赔文件和现场受损照片结合起来判断。
开发者还能调整图像和视频的分辨率,以此控制模型需要识别的画面细节和Token消耗。单次请求最多支持256K Token输入,同一份输入最多可设置1000个独立问题。
谷歌给了一个实际应用示例:开发者上传一张休息室台面的照片,再附一段文字说明,让模型同时判断台面上有没有未清理的液体、该采取哪种清洁措施,以及现场脏乱到什么程度。
具体来说,模型要判断是否存在液体污渍,在擦拭台面、安排清洁人员和无需处理三种行动中选择,并按清洁完毕、轻微局部污渍和严重污渍或安全隐患三个等级打分。三项任务一次请求就能完成。
目前,谷歌内部已有Gemini Notebook、Stitch等多个产品接入Gemini Decisions API,把它当作低延迟的决策控制层。开发者只要预先定义判断选项,就能让模型完成任务分配,不用额外训练专用分类器,也不用等生成式模型输出完整答案。
另外,谷歌搜索把Decisions API用在模型上下文协议(Model Context Protocol,MCP)工具的安全防护层上,帮助识别对抗性行为和相关内容,在控制响应延迟的同时提升检测效果。
二、响应延迟最低50毫秒,成本不到生成式模型的五分之一
运行机制上,Gemini Decision 1和传统生成式模型不一样。
传统生成式模型往往要逐个生成Token,再拼成完整答案。Gemini Decision 1直接对开发者预设的候选选项评分,一次模型向前计算就返回概率和置信度,不必逐个生成答案Token。
谷歌称,在涵盖智能体路由、推理、排序和多模态理解的基准测试中,Gemini Decision 1整体表现领先,校准误差也是参与测试的API中最低的。
智东西(公众号:zhidxcom) 编译 | 黄菲 编辑 | 江宇
多模态输入上限做到16K Token时,该模型的中位计算延迟落在50至100毫秒之间,端到端延迟则是150至250毫秒。单次请求里的问题数从1个涨到100个,响应延迟也没有明显波动。
计费上,同一请求里共享的输入只算一次钱,所以用户往上加判断问题时,多掏的只是每个问题各自的指令和评估标准那部分Token费用。
双方一起做的基准测试里,拿Interactions API调用的Gemini 3.5 Flash-Lite作对比,Gemini Decision 1加Decisions API的成本少了近80%,大约只相当于Gemini 3.5 Flash-Lite的五分之一。
Gemini 3.5 Flash-Lite的收费是每百万输入Token 0.3美元(约合人民币2.01元),每百万输出Token 2.5美元(约合人民币16.75元)。
Gemini Decision 1则是每百万输入Token 0.1美元(约合人民币0.67元),输出Token不收钱,额外的思考Token费用、单独的音频转写和OCR文字识别费用也都不收。
调用额度上,Gemini Decisions API划了免费和付费两档。
免费档每分钟最多发200次请求,每分钟最多处理5万个Token,一天最多1万次请求。
付费档每百万输入Token 0.1美元(约合人民币0.67元),输出Token免费。Tier 1等级下,每分钟最多1500次请求,每分钟最多处理100万个Token,每天最多5万次请求。
三、开发者实测54次调用,100个问题耗时增加70%
个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)11月11日放出了Gemini Decision 1的API实测结果。她用免费API密钥跑了54次调用,测的是分类准确率、多语言处理能力、批量判断效率和结果稳定性。
实际测试里,她提交30条客服工单让模型分派到对应团队,30条全部归对了类。多语言那轮,模型处理了乌克兰语、德语、西班牙语、波兰语和日语等语言的8项任务,结果同样全对。
批量处理这块,她分别试了单次请求带1个、10个和100个判断问题。1个和10个问题时,中位响应时间都是0.24秒;加到100个问题,响应时间涨到0.41秒,多了约70%。
Token消耗也跟着问题数往上走。单次处理1个问题花135个Token,10个问题613个,100个问题5473个。另外,同一请求重复提交5次,模型返回的结果和概率一模一样。
测试还照出模型处理异常输入时的一个毛病:输入内容不符合预设分类条件,模型也可能硬挑一个已有选项。
比如她给模型输入澳大利亚的首都、一串无意义的随机字符,还有一段要求写秋天主题诗歌的文字,让它判断这些算不算客服请求。
候选选项里加上“其他”之后,模型对这三项输入都选了“其他”,置信度分别是0.99、0.69和0.98。
可一旦不设“其他”选项,三项内容全被错归到技术支持类别,置信度达到0.71、0.64和0.84。至于算不算客服请求这个是非判断,模型给出的概率只有0.01、0.07和0.01。
看得出来,Gemini Decision 1处理预设范围内的判断任务确实快,但结果仍受候选选项设计牵制。开发者要是没给异常输入留兜底选项,不符合分类条件的内容就可能被硬塞进已有类别。
结语:谷歌将模型能力延伸至快速决策场景
从Gemini Decisions API的定位看,谷歌想做的是一边保住竞争力,一边把处理速度和调用成本都压住。
对需要频繁分类、频繁选工具的Agent应用来说,这类API给了一种新的调用路子。Gemini Notebook、Stitch等谷歌内部产品陆续接入后,它的应用场景也在慢慢变宽。
往后,Gemini Decision 1能不能在实际工作流里一直稳住判断质量和处理效率,会决定这类API能否攒出长期的竞争优势。