谷歌API Gateway预览流式处理:AI应用实时通信不再绕开网关

资讯 AI 行业观察 作者:Sergio De Simone 全文 1305 字 · 约 4 分钟读完 配图 1 张 分类Google产品更新AI 产品

谷歌宣布公开预览 API Gateway 流式处理功能,将传统的请求-响应模型扩展至需要实时通信的应用程序。据谷歌称,这对于提供流式模型响应、多步骤代理工作流和交互式会话的 AI 应用尤为重要。 这项新功能使流式端点能够在 API Gateway 背后运行,同时保留了现有的网关策略和安全控制措施,从而解决了之前存在的一

所属频道 大厂动态产品更新

谷歌API Gateway的流式处理能力已进入公开预览阶段,原本只处理请求-响应模式的网关,如今把触角伸向需要实时通信的应用。谷歌方面表示,流式模型响应、多步骤代理工作流和交互式会话这类AI应用,对这种能力的需求尤其迫切。

新功能让流式端点可以直接跑在API Gateway后面,网关原有的策略与安全控制不变,此前的一个限制由此解开。在这之前,开发者要在API Gateway里做这类体验,只能二选一:把网关摆在API前端、放弃流式传输;或者让流式端点绕过网关,把身份验证、API密钥强制执行和可观测性一并丢掉。问题是,这几项恰恰是网关存在的理由。

流式传输模式上,API Gateway覆盖服务器发送事件(SSE)、分块传输编码和HTTP响应流式传输、WebSockets以及gRPC。连接最长可以保持打开一小时,超过之后客户端若还要继续通信,得重新建一条连接。

版本更新带来了流式传输支持,现有的API规范不用改,也不需要专门的API、扩展或注解。谷歌强调,原有API配置和功能照旧运行,API密钥强制执行、JWT验证、后端服务账户身份验证、Cloud Logging和Cloud Monitoring集成,以及路径模板和请求路由都在其中。

另一项变化是网关主机名变得可预测。过去主机名里带一个生成的哈希值,只有网关创建完成才能确定;现在改为固定格式GATEWAY_ID-PROJECT_NUMBER.REGION.gateway.dev,开发者在创建资源之前就能引用和配置它。

谷歌还专门讲了流式传输对AI应用的意义:这类应用里,模型响应是一步步生成的,不是一次性完整返回。有了新功能,开发者可以实时流式传输模型响应,在多步骤任务中更新代理进度,支持工具调用协议、连接远程MCP服务器,并处理交互式AI应用。

模型路由也在支持范围内。它提供一个兼容OpenAI的单一端点,按请求负载中的模型字段,把请求分发给Gemini、Claude或OpenAI gpt-oss模型。模型路由加上流式传输,客户端拿到的是熟悉的、基于标准的流式传输接口;哪些模型可以访问、由谁访问、遵循什么策略,仍然集中控制。

公告下面也有不同声音。X平台用户emildrops点出两处局限:一是“现有网关无法就地切换”;二是“延迟衡量的是整个数据流,而非首字节到达时间……因此,延迟图表可能会因非故障原因而显得异常”。LinkedIn用户Ehsan Elahi Zaheer同样指出:

监控同样得留神:网关请求延迟指标算的是数据流持续时间,不是“首字节到达时间”。一张延迟图表背后,可能藏着完全不同的用户体验。

预览期间,开发者创建网关时必须显式指定--enable-streaming命令行标志,这项新功能才会启用。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 谷歌地图上线AI行程规划:Ask Maps能排路线,实时信息成关键

    TechCrunch报道,Google Maps新增AI行程规划能力,用户可通过Ask Maps生成从假日购物一日游到三日公路旅行的完整路线,并查看每一站的实时详情。文章分析该功能如何把地图导航升级为行程助手,以及实时数据、场景化规划和商业化推荐带来的机会与挑战。

    来源 AI 行业观察
  2. 英伟达博通到光模块,AI硬件资产预期重估

    导语:从英伟达、博通到光模块、半导体设备,AI硬件资产正在经历一场预期重估。过去两年,全球资本市场最拥挤的交易之一,就是买入AI硬件。英伟达的GPU、博通的定制芯片、台积电的先进制程,以及光模块、服务器、电源和散热设备,几乎构成了AI投资浪潮中最确定的一条受益链。投资者当时的逻辑并不复杂:只要微软、谷歌、亚...

    来源 腾讯网
  3. Gemini Notebook上线建站功能:一句话生成可分享网页

    Gemini Notebook上线网站生成功能,用户可通过自然语言指令,将现有资源快速转化为可互动、可分享的网站。据@Gemini_Notebook推文,只需在聊天框输入“帮我建个网站”并描述需求,如交互式仪表盘、项目跟踪器等,系统即可自动生成网页。生成后可在新标签页打开或分享给他人。该功能面向全球18岁以上用户。

    来源 AI 产业速递
  4. 苹果携手OpenEvidence推健康AI应用,招募20万人做一年研究

    苹果宣布与医疗AI企业OpenEvidence合作,推出健康领域AI研究应用,研究AI如何基于临床证据提供健康信息与医疗建议。该应用已向美国用户开放下载,计划招募约20万名参与者,研究超12个月。参与者需年满21岁,使用iPhone 15或更新机型,运行iOS 26及以上,并启用Apple Intelligence。

    来源 AI 产业速递
  5. 英伟达份额降至28%,摩根大通称CUDA壁垒正被AI攻破

    摩根大通指出,英伟达在2026年算力协议中份额仅剩28%,AMD、谷歌TPU等竞品强势崛起;与此同时,CUDA护城河三天被AI攻破。开源市场则遭遇监管收紧,出口合规风险上升。尽管英伟达当前估值具备吸引力,但支撑高增速预期的两大引擎均已动摇。

    来源 华尔街见闻
  6. SemiAnalysis大幅下修AI算力预测:2028年资本开支预测下调近三成,五年硅片出货面积下调17%

    AI基础设施投资热潮出现新的降温信号。半导体研究机构SemiAnalysis在最新模型更新中,大幅下调了未来数年AI加速器出货、资本开支、HBM需求和电力需求预测。其中,2028年至2030年的调整幅度尤为明显:2028年全球AI加速器资本开支预测被下调28%,2029年和2030年分别下调41%和40%。按照最新模型

    来源 AI 行业观察
  7. Corma三个月估值破10亿美元:AI原生安全凭什么拿到NEA的1.25亿美元

    产品上线仅约三个月,AI网络安全初创公司Corma便完成1.25亿美元A轮融资,估值达到10亿美元,由老牌风投NEA领投。这轮超大规模早期融资折射出资本市场对“AI+安全”赛道的强烈兴趣,也让外界开始追问:在安全运营人力长期短缺、告警疲劳日益严重的背景下,AI能否真正改变企业防御方式?高估值背后,Corma又

    来源 AI 科技快讯
  8. 钧和影视推AI漫剧:300万元天使轮融资,成本降六成

    DataEye研究院预计,2026年中国微短剧与漫剧市场规模将突破1200亿元;QuestMobile数据显示,截至2026年2月,短剧行业月活用户规模已达7.18亿,覆盖近七成网民,用户人均单日使用时长129分钟,首次超过长视频。但供给端的爆发并没有同步带来内容质量的提升:2026年第一季度全行业上线的微短剧约12.

    来源 AI 行业观察
  9. 谷歌Gemini接入Google Wallet,美国用户可使用AI分析个人财务

    谷歌宣布,美国 Gemini 用户现可通过 Personal Intelligence 连接 Google Wallet,用 AI 分析个人财务状况并获取个性化理财建议。用户还能经 Plaid 关联银行账户和信用卡;该平台也为 ChatGPT 提供金融账户集成。连接后,Gemini 可分析交易记录,回答日常支出、预算、

    来源 AI 产业速递
  10. 于胜淇团队南迁苏州:43万部AI短剧催热长三角机房

    于胜淇的团队最近搬了一次家。编剧和审片的人留在原来的城市,大批量视频生成任务从北京搬到苏州的托管机房。于胜淇是一家AI(人工智能)漫剧制作公司的创始人,带着几人规模的团队正赶年末漫剧上线旺季,机器7×24小时连轴转。 于胜淇对经济观察报记者说,同样一分钟成片,算力开销已经涨到年初的两三倍,“希望借此(团队南迁)缩短制作

    来源 AI 行业观察
  11. 苹果测试AI每日额度:iCloud+订阅可扩容最高20倍

    苹果正在测试为 Apple Intelligence 云端 AI 功能引入每日使用额度限制。根据最新推送的 iOS27.3Beta2等系统测试版及苹果更新的支持文档,未来涉及高算力消耗的服务器端 AI 任务将不再完全免费、无限制使用。 此次限额主要覆盖新版 Siri AI、相册智能修图(消除、扩图、

    来源 AI 开发者社区
  12. 斑马AI学发布2027版本

    36氪获悉,近日,斑马AI学发布2027版本,面向小学高年级阶段的斑马英语S8、斑马思维S7、斑马大阅读S7正式发布,这是斑马针对旗下AI学产品体系的一次系统性升级,意味着其产品已从兴趣启蒙全面进化至小学高阶的学习阶段。斑马自主研发的斑马儿童科教大模型,面向儿童学习场景打造,并已完成国家网信办生成式人工智能服务备案。基

    来源 AI 行业观察
  13. 10元探店,6元模特:月入800万的AI假体验生意,谁在买单?

    本地生活赛道,探店生意曾形成一条完整的产业链,如今正被AI侵蚀。 传统真人探店拍摄剪辑动辄数百上千元,而现在AI将单条内容的的成本压到10元以内。商家只需上传一张门头照、几张菜肴图,再配一个AI主播,即可生成一条AI探店视频。 此外,抖音等平台上已出现专门的AI探店账号,有博主仅1.9万粉丝,专注此类内容,首页显示累计

    来源 AI 行业观察
  14. 摩根大通:英伟达2026年后算力份额仅28%,CUDA壁垒正被AI攻破

    英伟达正面临来自两端的结构性压力,而这与创始人黄仁勋的离任同等重要,甚至可能更为深远。摩根大通策略师Michael Cembalest在最新研报《英伟达与AI的下一步》中指出,前沿AI实验室正将采购重心向AMD、谷歌、亚马逊等多家供应商分散,英伟达在2026年后计算协议中的份额仅占28%。与此同时,开源模型生态圈则面临

    来源 腾讯网
  15. Anthropic收购1人公司Mithril:AI制药新路径?

    (本文作者为 医线Insight,钛媒体经授权发布)文 | 医线Insight,作者丨张小漫一家只有一名全职员工的生物技术公司,近期被AI巨头Anthropic宣布收购。这家公司名叫Mithril Medicine,专注于两种罕见肌营养不良症的治疗研究。创始人Cody Tranbarger借助Claude,在不到18个

    来源 腾讯网
  16. 华为云“行业AI梦工厂”发布并开源昇腾原生具身世界模型CloudRobo-WM1.2

    【TechWeb】11月16日消息,今天,华为云“行业AI梦工厂”发布并开源昇腾原生的具身世界模型CloudRobo-WM1.2,采用共享世界模型骨干网络实现预测增强的世界表征,基于世界模型原生DualAct架构,实现了世界模型原生动作生成,在RoboTwin 2.0、LiberoPro 2.0 评测中均位列第一。 五

    来源 AI 行业观察
  17. Google披露俄语黑客AI框架:全自动挖洞攻击法国媒体教育站

    Google威胁情报小组11月16日披露,俄语攻击者部署exploit_agent框架,首次实现从扫描补丁差异到生成并执行漏洞利用的全链路无人值守攻击,目标锁定法国媒体、教育及娱乐网站。该事件标志AI从辅助工具转向自主攻击管道,引发合规与武器化agent的监管讨论。

    来源 AI 科技快讯
  18. 腾讯总办复盘AI再创业:WorkBuddy 8个月成token最大单一产品

    腾讯文化11月16日发布《总办号召 AI 时代再创业,“心态归零”》一文,以2026年总办 LinkTime 现场笔记形式复盘此前引发舆论热议的司庆讲话。公司28岁生日当天,总办将年度 LinkTime 做成播客,Pony 与 Martin 称参与这场科技变革并站在前沿是荣幸。 笔记将智能革命定性为

    来源 AI 开发者社区
  19. 腾讯总办复盘司庆讲话:WorkBuddy 8个月成国内token最大AI产品

    腾讯文化发文,总办号召AI时代再创业、“心态归零”,并以2026年LinkTime现场笔记复盘司庆讲话。28岁生日当天,总办把年度LinkTime做成播客,Pony与Martin称参与科技变革、站在前沿是荣幸。笔记将智能革命定为“生死存亡的问题”,不拥抱即被颠覆;本轮从被动降本转向主动增效,推进AI native业务、

    来源 AI 产业速递
向下滚动自动加载更多