谷歌Gemini Decisions API上线:单次前向传递打分,延迟低至150毫秒
人工智能技术的演进正在从单纯的“生成内容”加速向“高效决策”转变。谷歌近日正式推出了全新的 Gemini Decisions API,这是一个由其底层的 Gemini Decision1模型驱动的全新端点,旨在帮助人工智能智能体在日常运行中做出极速的预设决策,彻底省去了传统模式下生成冗长文本回复的繁琐过程。 核心功能与
谷歌近日上线了
Gemini Decisions API。这一新端点由底层 Gemini Decision1 模型驱动,目标是让人工智能智能体在日常运转中快速完成预设判断,不再像过去那样先生成一长串文本回复。AI 技术的走向,正从单纯“生成内容”加快转向“高效决策”。
核心功能与运行机制:单次前向传递实现高效评分。和传统大模型相比,Gemini Decision1 的底层运行方式完全不同:它不再逐个 Token 生成回复,而是在单次前向传递中直接给预设选项综合打分,返回对应的概率与置信度分数。
靠这套设计,接口的端到端延迟被压到 150 到 250 毫秒,智能体在高频交互场景下的实时响应需求可以满足。
输入与调用形态上,Gemini Decisions API 的多模态处理能力很突出。开发人员面对文本、图像、音频、视频和 PDF 等共享多模态输入,一次 API 调用最多可评估 1000 个独立问题。调用形式具体包括:快捷的“是或否”检查;最多 255 个选项的多选题;按预设评分标准发起的打分请求。
普惠定价与应用前景。价格方面,谷歌给出的标准是每百万输入 Token 收费 0.10 美元。
业内分析人士认为,大模型深入各行各业之后,智能体在后台跑复杂工作流时,经常要做大量轻量级判断和路线选择。Gemini Decisions API 跳过文本生成的中间环节,计算成本和响应延迟都随之下降,复杂 AI 智能体应用也因此多了一层反应更快的底层基础设施。