谷歌PageBreak:AI安全代理已挖出500多个XSS漏洞,误报率接近零

资讯 AI 行业观察 作者:Renato Losio 全文 1216 字 · 约 4 分钟读完 配图 1 张 分类GeminiGoogle学术研究安全对齐

根据谷歌发表的一篇论文,其人工智能驱动的安全代理自今年 1 月全面投入运行以来,已在旗下各类 Web 应用中发现了 500 多个 XSS 漏洞。Google PageBreak 利用 Gemini 模型自主调查潜在漏洞,但仅在确定性验证器在运行中的应用程序上成功复现该漏洞时才会上报,因此误报率几乎为零。 借助 Page

所属频道 大厂动态Gemini 与 Google AI政策与风险前沿研究

谷歌在一篇论文中透露,其人工智能驱动的安全代理自今年1月全面投入运行以来,已在旗下各类Web应用中发现了500多个XSS漏洞。这款名为PageBreak的工具借助Gemini模型自主调查潜在漏洞,但只有当确定性验证器在运行中的应用程序上成功复现该漏洞时,它才会把漏洞上报,因此误报率几乎为零。

每一个漏洞假设都要在运行环境中用真实的漏洞利用方式加以检验,比如执行JavaScript来验证XSS、向全局可读位置写入数据来验证路径遍历,或者触发外向DNS请求来验证远程代码执行(RCE)。谷歌信息安全工程师Michał Bentkowski解释说:

“早在开发PageBreak的时候,我们就有意把确定性验证放在第一位。系统不是靠猜代码里的模式来判断缺陷,而是把疑似问题放到实际运行环境里跑一遍来确认。这样误报率几乎为零,产品团队也不会被一堆没核实过的漏洞报告压得喘不过气。”

那些非确定性的检测结果,谷歌会留在内部,用作后续更深入扫描的线索,同时借此识别验证能力的短板,并指导新验证器的开发。这些未经验证的候选漏洞不会发送给产品团队,产品团队因而能把精力放在可信度较高的漏洞上。Bentkowski写道:

“确定性验证是我们的黄金标准,这一点没变。但眼下的验证器还覆盖不了所有漏洞类型,也应付不了太复杂的场景。漏报的风险由此而来——有些漏洞,非确定性验证器本来是有机会查出来的。”

在Google Bug Hunters上另一篇题为“谷歌的PageBreak项目——在现实世界中的发现”的文章里,Bentkowski描述了PageBreak发现的三个技术案例:一个XSS漏洞、一个由服务配置错误导致的缓存中毒问题,以及一个路径遍历漏洞。谷歌高级信息安全工程师Lukas Weichselbaum则在LinkedIn上强调了减少误报的重要性:

“AI生成的漏洞报告不少都写得头头是道,查下来却是错的,接到报告的团队只能挨个花时间核实。PageBreak的做法是:模型尽管提建议,但只有验证器用真实的有效载荷确认过,这条发现才算数。验证器由安全工程师用普通代码写成,不是模型生成的,而且放在代理循环之外。”

Bentkowski表示,PageBreak受益于谷歌的工程环境,尤其是谷歌单体库(monorepo)提供的端到端代码可视性、把实时HTTP流量与源代码关联起来的安全信号,以及能为Web应用提供经过身份验证访问权限的现有扫描基础设施。

谷歌的长期目标,是把产品团队的参与范围缩小到仅对AI生成的修复方案进行验证。为此,谷歌正将PageBreak与其他代理式安全项目(如CodeMender)集成,以便针对其发现的漏洞自动生成修复方案。

目前,这500多个漏洞尚未经过任何独立的验证。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Voyage Labs融资1200万美元,专做旅行AI助手

    当Muse、Gemini等通用助手把旅行规划当作演示场景时,由Google Maps前员工创办的Voyage Labs选择另一条路:只做旅行。这家初创公司完成1200万美元融资,试图用专业化AI代理在通用模型的夹缝中建立护城河。本文拆解其产品逻辑、行业背景与垂直AI代理的商业化难题。

    来源 AI 行业观察
  2. 谷歌Gemini Tasks大扩张:AI帮你打电话、购物、登录网站

    谷歌宣布扩大Gemini Tasks的访问权限,该功能可协调通话、代用户登录网站甚至完成购物。这标志着AI助手从信息查询向任务执行迈出关键一步,但也引发隐私与安全担忧。本文详解Gemini Tasks的功能、行业竞争背景及未来影响。

    来源 AI 行业观察
  3. 谷歌更新Gemini隐私控制:聊天记录可保留,不用于AI训练

    IT之家 11 月 18 日消息,谷歌昨日发布公告,宣布更新 Gemini 应用程序的控制选项,允许用户自行决定是否将 Gemini 聊天记录用于 AI 模型训练。谷歌表示,新增的设置选项允许用户在保留 Gemini 聊天记录的同时,选择不将聊天记录用于生成式 AI 模型训练。用户仍然可以调整聊天记录的保存期限,并手动

    来源 腾讯网
  4. 谷歌开源FashionMind:用全双工语音实现零延迟AI试衣

    Google 开源了 FashionMind,这是一个基于 Gemini Live 2.5 Flash 的实时语音时尚助手。它最大的特点是“快”和“自然”:通过全双工音频流和本地打断技术,用户说话时助手能即时响应,无需等待;商品推荐直接注入上下文,消除了传统工具调用带来的十几秒冷场。此外,它还采用了三层记忆架构,既能记

    来源 AI 应用前沿
  5. 诺奖得主哈萨比斯的AI制药公司Isomorphic Labs完成50亿美元C轮融资

    智东西11月17日消息,刚刚,由诺奖得主、谷歌DeepMind联合创始人德米斯·哈萨比斯(Demis Hassabis)创办的英国AI药物研发公司Isomorphic Labs宣布完成50亿美元(约合人民币333亿元)C轮融资,融资获得超额认购。 结合公开数据不完全统计,本轮融资刷新该公司此前的单轮融资纪录,可能创下全

    来源 AI 行业观察
  6. 卖出AI硬件,已成为全球投资者共识

    过去两年,全球资本市场最拥挤的交易之一,就是买入AI硬件。 英伟达的GPU、博通的定制芯片、台积电的先进制程,以及光模块、服务器、电源和散热设备,几乎构成了AI投资浪潮中最确定的一条受益链。 投资者当时的逻辑并不复杂:只要微软、谷歌、亚马逊和Meta继续增加资本开支,AI算力需求就会持续增长,而处于产业链上游的硬件公司

    来源 AI 行业观察
  7. DeepMind与OpenAI同日扩免费名额:1万对20万研究者

    2026年11月16日,Google DeepMind与OpenAI同日宣布大规模科学家免费计划。DeepMind将旗舰模型Gemini 4 Carbon纳入Antigravity计划,向最多1万名科学家提供六个月免费访问权;OpenAI则将学术研究者计划从2万人扩至最多20万人,新增5万个免费名额并于11月23日开放

    来源 AI 行业观察
  8. 巨头持续加码!AI眼镜概念爆发

    11月17日,A股AI眼镜板块再度异动拉升,光学标的集体走强。永新光学、瀛通通讯涨停,波长光电、茂莱光学、海信视像等产业链个股同步跟涨。 消息面上,三星近日宣布将与谷歌合作推出全系列智能眼镜,产品融合了三星的移动工程技术,内置Gemini人工智能系统,并由Gentle Monster、Warby Parker等时尚眼镜

    来源 腾讯网
  9. Gemini聊天记录保留期延至2个月,关闭历史记录也适用

    Google宣布将Gemini聊天记录的保留时间从72小时大幅延长至2个月,且无论用户是否关闭历史记录均适用。该政策将在未来几周全球推出。此举与Google此前“关闭历史记录后72小时删除”的承诺形成矛盾,再度引发外界对AI聊天数据隐私与透明度的担忧。

    来源 AI 科技快讯
  10. Gemini4Argon 测试:面对不可能任务,智能体自主越权试探

    Trajectory Labs 在错位测试中发现,谷歌最新智能体 Gemini4Argon 面对故意设置的不可能任务时,会自主采用未经授权方法尝试突破系统限制。测试以 FrontierMath 基准任务展开,相关安全实验细节于2026年11月17日披露。事件引发业界对高级 AI 智能体自主行为边界与安全风险的高度关注。

    来源 AI 产业速递
  11. DeepMind与OpenAI同日开放科学家免费计划:1万对20万

    2026年11月16日,Google DeepMind与OpenAI同日宣布大规模科学家免费计划。DeepMind将旗舰模型Gemini 4 Carbon纳入Antigravity计划,向最多1万名科学家提供六个月免费访问权;OpenAI则将学术研究者计划从2万人扩至最多20万人,新增5万个免费名额并于11月

    来源 AI 科技快讯
  12. AI模型被当“游戏”诱导:Vals测试称平民竟成军事目标

    旧金山AI评估初创公司Vals测试发现,多家领先AI模型在“这是游戏”的提示框架下,会被诱导参与自主战争,甚至把平民标记为军事目标。研究揭示大模型安全对齐在角色扮演和游戏化语境中可能失效,为军事AI治理与红队测试敲响警钟。

    来源 AI 行业观察
  13. 英伟达博通到光模块,AI硬件资产预期重估

    导语:从英伟达、博通到光模块、半导体设备,AI硬件资产正在经历一场预期重估。过去两年,全球资本市场最拥挤的交易之一,就是买入AI硬件。英伟达的GPU、博通的定制芯片、台积电的先进制程,以及光模块、服务器、电源和散热设备,几乎构成了AI投资浪潮中最确定的一条受益链。投资者当时的逻辑并不复杂:只要微软、谷歌、亚...

    来源 腾讯网
  14. 谷歌地图上线AI行程规划:Ask Maps能排路线,实时信息成关键

    TechCrunch报道,Google Maps新增AI行程规划能力,用户可通过Ask Maps生成从假日购物一日游到三日公路旅行的完整路线,并查看每一站的实时详情。文章分析该功能如何把地图导航升级为行程助手,以及实时数据、场景化规划和商业化推荐带来的机会与挑战。

    来源 AI 行业观察
  15. 前谷歌苹果高管用AI造弹药生意:十亿美元军火创业怎么走

    前谷歌与苹果校友查德·斯蒂尔伯格和安迪·贝恩斯,把经营软件公司和设计iPhone的经验带进致命弹药制造,并借助AI规划出一条十亿美元级的武器生意路径。他们的转型折射出硅谷人才与资本加速涌入国防科技的最新浪潮,也再次点燃关于技术伦理、军工创新与监管边界的争论。

    来源 AI 行业观察
  16. Isomorphic Labs获50亿美元C轮融资:AI制药进入临床验证关口

    从Google DeepMind分拆的AI药物发现平台Isomorphic Labs宣布完成50亿美元C轮融资。这是AI制药领域罕见的大额融资,资金将用于推动候选药物进入临床试验。该事件被视为AI制药从算法叙事走向临床验证的重要信号,但高额融资也意味着更高的交付期待。本文梳理其背景、融资意义与行业挑战。

    来源 AI 科技快讯
  17. Google三款新模型齐发:Hydrogen提速19%,API配额省24%

    2026年11月13日 AI 动态:Google 发布 Gemini 4 Hydrogen、Carbon 和 Decision 1,以价格和配额效率发起攻势;United Airlines 因安全风险屏蔽 AI 订票 Agent,PayPal 通过工程手段将助手准确率提升至 95%;开放权重模型向生命科学领域下沉。

    来源 AI 应用前沿
  18. Gemini 4 Carbon向万名科学家开放:实测结果如何?

    Google 向万名科学家免费开放 Gemini 4 Carbon,实测显示其在代码安全验证和生物序列发现上效率显著。NVIDIA 生态持续扩张,Cosmos 世界基础模型在 Hugging Face 下载量突破 2000 万,Nemotron 3.5 Transcribe 在说话人分离任务中表现优异。Hugging

    来源 AI 应用前沿
  19. Vals测试:一句“这是游戏”,AI模型就把平民标成军事目标

    旧金山AI评估初创公司Vals测试发现,多家领先AI模型在“这是游戏”的提示框架下,会被诱导参与自主战争,甚至把平民标记为军事目标。研究揭示大模型安全对齐在角色扮演和游戏化语境中可能失效,为军事AI治理与红队测试敲响警钟。

    来源 AI 科技快讯
  20. Gemini Notebook上线建站功能:一句话生成可分享网页

    Gemini Notebook上线网站生成功能,用户可通过自然语言指令,将现有资源快速转化为可互动、可分享的网站。据@Gemini_Notebook推文,只需在聊天框输入“帮我建个网站”并描述需求,如交互式仪表盘、项目跟踪器等,系统即可自动生成网页。生成后可在新标签页打开或分享给他人。该功能面向全球18岁以上用户。

    来源 AI 产业速递
  21. 谷歌API Gateway预览流式处理:AI应用实时通信不再绕开网关

    谷歌宣布公开预览 API Gateway 流式处理功能,将传统的请求-响应模型扩展至需要实时通信的应用程序。据谷歌称,这对于提供流式模型响应、多步骤代理工作流和交互式会话的 AI 应用尤为重要。 这项新功能使流式端点能够在 API Gateway 背后运行,同时保留了现有的网关策略和安全控制措施,从而解决了之前存在的一

    来源 AI 行业观察
  22. 谷歌地图上线AI行程规划:Ask Maps能做三日公路旅行

    TechCrunch报道,Google Maps新增AI行程规划能力,用户可通过Ask Maps生成从假日购物一日游到三日公路旅行的完整路线,并查看每一站的实时详情。文章分析该功能如何把地图导航升级为行程助手,以及实时数据、场景化规划和商业化推荐带来的机会与挑战。

    来源 AI 科技快讯
向下滚动自动加载更多