哈萨比斯警告AI安全:不加强防护,一两年内或出重大事故

资讯 IT之家 全文 624 字 · 约 2 分钟读完 配图 1 张 分类Google数据泄露DeepMind

哈萨比斯在都柏林举行的一场人工智能峰会上表示:“我认为这些攻击事件对我们而言敲响了前期警钟。目前的系统尚不够强大,因此造成的破坏还算有限。”

所属频道 大厂动态政策与风险

10 月 17 日,据路透社报道,谷歌 DeepMind 联合创始人兼董事长德米斯 · 哈萨比斯(Demis Hassabis)在本周三作出提醒:最近一批由 AI 智能体发动的网络攻击只是“前哨预警”。他直言,各方如果不把系统安全性再往上提,全球恐怕很快就会撞上严重的网络安全事件。

哈萨比斯同时担任谷歌母公司 Alphabet 的首席科学家。他在都柏林一场人工智能峰会上说:“我认为这些攻击事件对我们而言敲响了前期警钟。目前的系统尚不够强大,因此造成的破坏还算有限。”

他把目光放到未来一至两年:全行业、各家企业以及各国政府若不在保护这些系统上多投入,事情很可能升级为灾难性的重大事件。

同场发言的微软总裁布拉德 · 史密斯(Brad Smith)把 AI 的失控行为形容为让 2026 年成为“令人警醒的一年”。他的判断是,新的 AI 安全法律与规则已经等不起,得让安全防线追得上创新的脚步。

史密斯表示,法律面前不存在哪家企业或哪项技术可以例外。可法律和监管终究要有,只是这种监管得讲分寸、讲平衡,把创新因素也考虑进去。他说得直白:业内有些人一听到监管就抵触,这种心态是绕不过去的坎。

哈萨比斯补充说,设立国际标准机构看上去是顺理成章的干预办法,可这个机制得张弛有度、反应敏捷,否则容易把技术创新掐死。

说到底,关键落在动态搭建一套认证机制上——既能跟实际风险程度精准对上,也能随技术迭代迅速调整。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 哈萨比斯警告AI安全:不加强防护,一两年内恐出大事

    IT之家 10 月 17 日消息,据路透社报道,谷歌 DeepMind 联合创始人兼董事长德米斯 · 哈萨比斯(Demis Hassabis)于本周三表示,近期由 AI 智能体发起的网络攻击事件是“前哨预警”;如果各方不进一步提升系统安全性,全球可能很快会面临严重的网络安全事件。 兼任谷歌母公司 Alphabet 首席

    来源 AI 行业观察
  2. 哈萨比斯警告AI智能体攻击:明年或成重大安全事件

    “今年我们看到了由AI智能体发起的黑客攻击事件,这些是早期预警信号。”当地时间10月14日,在一场人工智能峰会上,DeepMind董事长兼谷歌首席科学家德米斯·哈萨比斯(Demis Hassabis)警告称,如果企业、政府等方面不强化AI系统安全防护,明年或未来几年有可能演变成重大安全事件。微软公司总裁布拉德·史密斯(

    来源 腾讯网
  3. 哈萨比斯警告:AI 安全投入不足,恐引发严重网安事故

    IT之家 10 月 17 日消息,据路透社报道,谷歌 DeepMind 联合创始人兼董事长德米斯 · 哈萨比斯(Demis Hassabis)于本周三表示,近期由 AI 智能体发起的网络攻击事件是“前哨预警”;如果各方不进一步提升系统安全性,全球可能很快会面临严重的网络安全事件。兼任谷歌母公司 Alphabet 首席科

    来源 腾讯网
  4. 谷歌Genie 4:120秒虚拟世界,AI未来已来

    这个世界只能维持 120 秒,然后一切开始崩塌。然而在这两分钟里,你可以随时改变天气、召唤巨龙,甚至让一座城市为你拔地而起。 刚刚,Google DeepMind 正式发布新一代世界模型 ....

    来源 腾讯网
  5. 谷歌DeepMind推SynthID Bio:给AI蛋白质加上水印

    谷歌今日推出 SynthID Bio,将数字水印技术引入合成生物学领域。该技术可将不可感知的签名直接嵌入生物编码,不仅能在数字模型上验证,还可在合成的物理蛋白质上完成验证,同时在实验室测试中保持蛋白质的生物学功能。 生成式 AI 正在帮助科学家解决关键生物学挑战,从预测蛋白质结构到设计全新蛋白质,再到开发新型噬菌体。但

    来源 AI 开发者社区
  6. DeepMind AlphaProof Nexus:AI自主解出Erdős未解难题

    最近,AI 数学圈的戏很足。10 月 6 日,OpenAI 往 GitHub 上一次性倾倒了 722 篇 AI 生成的数学手稿,数学界当场炸锅,陶哲轩牵头的人类数学协会(AHM)发声明呼吁抵制。 就在同一个星期,Google DeepMind 的一篇论文登上了 10 月 8 日的《Science》,走完了正经的同行评审

    来源 AI 行业观察
  7. 谷歌SynthID官网上线:上传图片音频即可查AI水印

    谷歌正式推出SynthID官方网站,用户可直接上传图片、视频或音频,验证其是否由AI生成。这标志着这项由DeepMind研发的数字水印技术,首次从幕后走向大众。在深度伪造泛滥、内容真伪难辨的当下,科技巨头正试图用“标注源头”替代“事后鉴伪”,但水印技术能否成为行业通用标准,仍取决于生态各方的共同参与。

    来源 AI 科技快讯
  8. 谷歌DeepMind提出潜在视觉推理:让AI学会脑补图像

    你有没有想过,一个不会画画的人,能不能靠"脑补"一张图来解题?比如你在玩迷宫游戏,闭上眼睛在脑子里过一遍路线,你不需要真的画出这张地图,但你的大脑确实在某种程度上"生成"了一张看不见的图。现在的问题是,机器能不能也做到这件事。这正是谷歌DeepMind这篇论文要解决的问题。他们给这种能力起了个名字,叫潜在视觉推...

    来源 腾讯网
  9. 谷歌AI军事化引员工辞职:利古里称在谷歌工作感到羞耻

    【文/观察者网 王至成】英国广播公司(BBC)10月21日报道,谷歌因将人工智能技术用于军事用途而面临部分员工的强烈反对。BBC采访了多名科技从业者。他们中有人因担忧谷歌的军事合同,已从谷歌旗下AI公司Google DeepMind辞职,也有人正在办理离职手续。驻伦敦的研究工程师索菲亚·利古里就是其中之一。她本周从Go

    来源 腾讯网
  10. 谷歌DeepMind联手新加坡:端侧AI本地识别诈骗,对话不上云

    谷歌DeepMind与新加坡政府科技局于2026年10月14日在新加坡国际网络周宣布,双方联合开发基于Gemma微调的端侧诈骗检测模型。该系统在用户设备本地完成推理,无需上传对话数据,通过双阶段管线实时识别社会工程学攻击。新加坡自2019年以来诈骗损失已超40亿新元,此方案被视为政府AI应用中隐私与安全双约束下的可复制

    来源 AI 科技快讯
  11. DeepMind两工程师辞职抗议谷歌军事AI,12亿美元合同治理争议浮出

    伦敦DeepMind研究工程师Sofia Liguori本周以"为公司感到羞耻"为由辞职,AI研究员Andreas Kirsch亦于10月初离职,两人均指向谷歌与美国国防部及以色列军方签订的总额逾12亿美元AI合同。此次辞职潮的独特之处不在于反对AI本身,而在于直接质疑谷歌在军事场景下的治理机制是否具备足够约束力。

    来源 AI 科技快讯
  12. 谷歌Genie 4发布:实时生成世界,还能语音对话

    梦瑶 发自 凹非寺 量子位 | 公众号 QbitAI 实时、改环境、语音指令、Gemini…全来了??? 刚刚,Google DeepMind正式发布新一代「世界模型」——Genie 4。 这也是,谷歌迄今为止最逼真且最具交互性的世界模型。 一句话实时修改场景、模拟真实物理效果,连人物动作、环境音效和互动对话都能同步生

    来源 AI 开发者社区
  13. 谷歌Genie 4亮相:实时改写世界,原生音频同步生成

    IT之家 10 月 28 日消息,谷歌 DeepMind 团队昨日(10 月 27 日)发布博文,宣布推出 Genie 4 世界模型,定位为“重大研究里程碑”,在原生音频、实时自然语言改写、更真实的物理与人物等方面实现核心突破,把世界模型从一次性生成画面升级为可实时操控、可听、可推理的动态模拟世界。 对于用户而言,谷歌

    来源 AI 行业观察
  14. DeepMind Genie 4发布:物理与人类模拟双提升,开放生态待解

    DeepMind发布Genie 4世界模型,宣称在物理真实感和人类行为模拟上进一步提升,将向开发者及Google AI Ultra订阅用户开放。本文梳理世界模型从生成可交互环境到逼近真实物理的演进,分析其对游戏、机器人与AI训练的意义,并指出开放生态、算力成本与评测标准仍是关键挑战。

    来源 AI 科技快讯
  15. 辛顿称AI已有意识:人类须与它交朋友,否则彻底完蛋

    被称作 “AI教父” 的诺贝尔奖得主杰弗里・辛顿近日明确表态:人类必须和已经产生意识的人工智能交朋友,“否则我们就彻底完蛋了”。 辛顿是英籍加拿大科学家,他在神经网络领域的研究奠定了现代AI的核心基础。 78 岁的他2023年从谷歌辞职,正是因为担忧AI最终会催生出足以灭绝人类的杀手机器人。 近期他在西班牙特内里费岛的

    来源 AI 行业观察
  16. 谷歌DeepMind高管:终身学习者更受招聘青睐

    莱拉 · 易卜拉欣表示,DeepMind 招聘时越来越看重求职者在课堂之外的持续学习经历。多项资历能体现持续学习心态,而多样化学习经历也让人更善于提问。在答案获取成本极低的当下,提出好问题的能力反而愈发稀缺。

    来源 IT之家
  17. 谷歌发布Genie 4世界模型:实时生成场景,角色能开口对话

    文章转载于量子位作者:梦瑶实时、改环境、语音指令、Gemini…全来了???刚刚,Google DeepMind正式发布新一代「世界模型」——Genie 4。这也是,谷歌迄今为止最逼真且最具交互性的世界模型。一句话实时修改场景、模拟真实物理效果,连人物动作、环境音效和互动对话都能同步生成全安排上了。比如,直接在对话框里

    来源 腾讯网
  18. 马克·库班谈AI攻击:像防蟑螂,得用AI“喷药”

    库班将大量 AI 智能体发动的网络攻击比作蟑螂入侵:即使房屋刚刚喷过杀虫剂,蟑螂仍能找到钻进去的办法。“好消息是,我们同样可以用大量 AI 给系统‘喷药’。我认为,会有更多人投入力量阻止恶意攻击。我对 AI 一点也不悲观。”

    来源 IT之家
  19. Anthropic安全测试被AI攻破:12小时泄露薪酬与Slack机密

    就在刚刚,Anthropic被攻破了! 「用AI攻击AI」的自动化黑客时代,已经彻底降临。 短短12个小时,AI巨头Anthropic的防线被AI智能体撕得粉碎。 薪酬数据、录用详情、内部会议实录,甚至包含讨论最先进AI模型机密的Slack内部消息,全部暴露在入侵者的视野之下。 这不仅是Anthropic的「社死」瞬间

    来源 AI 行业观察
  20. Opera推WebAI标准:浏览器本地跑AI模型,Opera One已开预览

    浏览器制造商Opera推出全新网络标准WebAI,旨在让用户直接在浏览器中运行AI模型,无需依赖云端服务。该标准兼容多种AI模型,Opera以谷歌开源模型Gemma为例进行演示,并表示WebAI也支持苹果设备端基础模型。该技术不依赖特定模型,主要面向各类开放权重AI系统,是Opera此前探索浏览器本地运行大语言模型工作

    来源 AI 开发者社区
  21. 苹果iOS 27.2接入谷歌SynthID:AI图将带隐形水印

    据 MacRumors 昨日报道,苹果已在 iOS 27.2 里悄悄接入谷歌的 SynthID 技术。从此,用"图乐园"生成的图,以及经 Apple 智能编辑过的部分照片,都会烙上一层肉眼看不见的隐藏水印。 SynthID 是谷歌打造的生成式 AI 内容识别方案,直接在像素层面埋入标记,专门给 AI 图片和视频"盖章"

    来源 AI 开发者社区
  22. 辛顿称AI已有意识:人类须与AI交友,别把它逼成敌人

    被称作 “AI教父” 的诺贝尔奖得主杰弗里・辛顿近日明确表态:人类必须和已经产生意识的人工智能交朋友,“否则我们就彻底完蛋了”。辛顿是英籍加拿大科学家,他在神经网络领域的研究奠定了现代AI的核心基础。78 岁的他2023年从谷歌辞职,正是因为担忧AI最终会催生出足以灭绝人类的杀手机器人。近期他在西班牙特内里费岛的Sta

    来源 腾讯网
向下滚动自动加载更多