哈萨比斯警告AI安全:不加强防护,一两年内或出重大事故
哈萨比斯在都柏林举行的一场人工智能峰会上表示:“我认为这些攻击事件对我们而言敲响了前期警钟。目前的系统尚不够强大,因此造成的破坏还算有限。”
10 月 17 日,据路透社报道,谷歌
DeepMind 联合创始人兼董事长德米斯 · 哈萨比斯(Demis Hassabis)在本周三作出提醒:最近一批由 AI 智能体发动的网络攻击只是“前哨预警”。他直言,各方如果不把系统安全性再往上提,全球恐怕很快就会撞上严重的网络安全事件。
哈萨比斯同时担任谷歌母公司 Alphabet 的首席科学家。他在都柏林一场人工智能峰会上说:“我认为这些攻击事件对我们而言敲响了前期警钟。目前的系统尚不够强大,因此造成的破坏还算有限。”
他把目光放到未来一至两年:全行业、各家企业以及各国政府若不在保护这些系统上多投入,事情很可能升级为灾难性的重大事件。
同场发言的微软总裁布拉德 · 史密斯(Brad Smith)把 AI 的失控行为形容为让 2026 年成为“令人警醒的一年”。他的判断是,新的 AI 安全法律与规则已经等不起,得让安全防线追得上创新的脚步。
史密斯表示,法律面前不存在哪家企业或哪项技术可以例外。可法律和监管终究要有,只是这种监管得讲分寸、讲平衡,把创新因素也考虑进去。他说得直白:业内有些人一听到监管就抵触,这种心态是绕不过去的坎。
哈萨比斯补充说,设立国际标准机构看上去是顺理成章的干预办法,可这个机制得张弛有度、反应敏捷,否则容易把技术创新掐死。
说到底,关键落在动态搭建一套认证机制上——既能跟实际风险程度精准对上,也能随技术迭代迅速调整。