华中科技大学与阿里共建AI安全中心:首批9课题覆盖大模型攻防
11 月 18 日,华中科技大学与阿里巴巴集团签署合作协议,聚焦 AI 安全共建“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。
11月18日,华中科技大学与阿里巴巴集团签署合作协议,双方将围绕AI安全共建"智能攻防与前沿安全联合研究中心",首批启动9个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向。11月21日消息传出后,官方公开了其中的课题案例。

用户让AI智能体代为操作手机、处理复杂任务时,屏幕画面存在被伪造的可能,操作过程也可能遭到恶意诱导。针对这类风险,联合研究中心设置了"图像对抗样本与终端威胁研判"课题,研究如何识别并防护相关安全问题。
在购物、地图、外卖等应用间来回切换时,用户一方面想用上数据互通带来的便利,一方面又怕个人信息在协同中被泄露。"隐私保护关系图谱"课题要做的,就是借助密态计算等技术,让数据做到"可用不可见、协同不透传",使便利与隐私不必二选一。