谷歌Gemini Decisions API:千题并发,150毫秒决策
谷歌甩出决策 API:一张图一次扫千题,150 毫秒出判断
谷歌 11 月 11 日发布
Gemini Decisions API,配套的是新模型 Gemini Decision 1,主攻“对不对”“选哪个”这类高频快决策,把响应延迟压到毫秒级。它要解决的就是反复做是非判断、方案选型和打分这几类任务。
使用时,开发者提交一份多模态材料——文本、图像、音频、视频或 PDF 都行,上限 256K Tokens,随后一次最多提 1000 个彼此独立的问题。Gemini Decision 1 只做一次前向计算,便能逐项给出概率和置信度分数;换成传统做法,同样的活要拆成上百次调用。这类能力适合工具筛选、策略校验、模型路由以及上下文质量评估。比如把通话录音和账户信息一并送入,或者让扫描版理赔单搭配受损照片,由模型一次性完成核验。

处理一整段的延迟在 150 至 250 毫秒之间,价格同样不高:输入每百万 Tokens 收费 0.10 美元(约 0.67 元人民币),输出 Tokens 不收费。图像和视频的分辨率支持手动调整,便于在视觉细节与 Token 消耗之间做取舍。该 API 目前已登陆 Google AI Studio,并给出免费额度,方便开发者先做原型。