华中科技大学联手阿里巴巴建AI安全研究中心,首批9个课题启动
IT之家 11 月 21 日消息,华中科技大学与阿里巴巴集团于 11 月 18 日签署合作协议,聚焦 AI 安全共建“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。 IT之家获悉,联合研究中心首批启动的 9 个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向,以下为
11月18日,华中科技大学与阿里巴巴集团签署合作协议,双方将围绕AI安全共建“智能攻防与前沿安全联合研究中心”。据IT之家11月21日消息,该中心首批启动9个课题。

这9个课题分属四大方向:大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护。官方公开了部分课题案例。
AI智能体替用户操作手机、处理复杂任务时,屏幕画面存在被伪造的可能,操作过程也可能遭恶意诱导。针对这类风险,中心设置了“图像对抗样本与终端威胁研判”课题,研究如何识别并防护相关安全威胁。
用户在购物、地图、外卖等应用间切换时,既想用上数据互通的便利,又怕个人信息在协同中被泄露。“隐私保护关系图谱”课题正是冲着这一矛盾去的,将借助密态计算等技术,探索数据“可用不可见、协同不透传”,让便利与隐私不再只能二选一。