华中科技大学联手阿里巴巴建AI安全研究中心,首批9个课题启动

资讯 AI 行业观察 全文 386 字 · 约 1 分钟读完 配图 1 张 分类阿里合作安全对齐大模型

IT之家 11 月 21 日消息,华中科技大学与阿里巴巴集团于 11 月 18 日签署合作协议,聚焦 AI 安全共建“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。 IT之家获悉,联合研究中心首批启动的 9 个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向,以下为

所属频道 大厂动态模型发布政策与风险合作与生态

11月18日,华中科技大学与阿里巴巴集团签署合作协议,双方将围绕AI安全共建“智能攻防与前沿安全联合研究中心”。据IT之家11月21日消息,该中心首批启动9个课题。

华中科技大学联手阿里巴巴建AI安全研究中心,首批9个课题启动(配图 1)

这9个课题分属四大方向:大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护。官方公开了部分课题案例。

AI智能体替用户操作手机、处理复杂任务时,屏幕画面存在被伪造的可能,操作过程也可能遭恶意诱导。针对这类风险,中心设置了“图像对抗样本与终端威胁研判”课题,研究如何识别并防护相关安全威胁。

用户在购物、地图、外卖等应用间切换时,既想用上数据互通的便利,又怕个人信息在协同中被泄露。“隐私保护关系图谱”课题正是冲着这一矛盾去的,将借助密态计算等技术,探索数据“可用不可见、协同不透传”,让便利与隐私不再只能二选一。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关 AI 工具

AI 导航

相关推荐 按相关度与热度排序

全部资讯 →
  1. 问诊AI?一场死亡背后的追问

    查症状、看药品说明书、理解检查报告,优先用有明确医学语料来源、答案带引用且被设计为“转介医生”而非“替代医生”的专业医疗AI产品,而不是把通用聊天大模型当成全科大夫。

    来源 凤凰科技
  2. 智能体AI架构落地:挑战在哪,机会又在哪

    智能体 AI 架构在微服务与云原生架构的基础上进行了扩展,引入具备上下文感知、记忆能力,并遵循 MCP、A2A 等协议的 AI 智能体。本文探讨受限上下文集成、依赖任务的协同策略、新型安全风险以及可观测性需求。

    来源 InfoQ
  3. 200万个追踪标记潜入AI供应链,数据托管私密性被证伪

    一项巧妙的隐私实验揭开了AI供应链的隐秘角落。研究人员将约200万个带有唯一标记的“金丝雀”秘密植入提示词与数据流中,结果这些本应保持私密的追踪信息出现在大模型生态的多个环节。实验证明,用户数据在AI供应链中并不会真正保持私密,泄露的范围与深度远超想象。

    来源 AI 科技快讯
  4. OpenAI调整安全策略:35秒内可停模型,第三方评估入驻内部

    21世纪经济报道记者肖潇 报道“前沿大模型的能力正在快速提升,我们理解、对齐和保障安全的能力必须走在前面。”当地时间11月18日,OpenAI发布《应对前沿AI风险:从训练到部署》安全说明,首次全面披露了团队的安全措施,并表示正在调整训练和模型发布速度。一个月前,Anthropic也宣布与第三方安全机构合作,让外部人员

    来源 腾讯网
  5. 阿里2027财年Q2:AI云收入609.73亿增53%,平头哥三代GPU路线图加速

    每经记者:陈婷 每经编辑:魏官红阿里巴巴的增长盘面,正在上演清晰的冷热分野。11月19日,阿里巴巴集团(以下简称“阿里”,HK09988)发布2027财年第二季度财报(截至2026年9月30日止季度)。本季度,阿里收入同比增长10%,经调整EBITA同比增长260%,净利润为人民币644.20亿元,同比增长213%,主

    来源 腾讯网
  6. Anthropic登陆纳斯达克,专家郑天航直言大模型安全评估体系尚不成熟

    当地时间11月19日,开发Claude语言大模型的美国人工智能企业Anthropic公司,在美国纳斯达克交易所挂牌上市,首次公开募股融资金额超810亿美元,超过Space X在今年6月创下的750亿美元的历史最高纪录,成为全球最大IPO。从成立之初,Anthropic就强调自己与其他AI公司的不同之处在于“安全和责任”

    来源 腾讯网
  7. 亚马逊封堵AI购物助手,马斯克放话:也许该做个对手

    AI刚学会替你干活,亚马逊、摩根大通、嘉信理财就开始堵门了! 10月18日,@trikcode在X上列出了一份「AI碰壁清单」,点名达美航空、摩根大通、嘉信理财、Yelp和亚马逊。 他吐槽: 那些本该替我们搞定一切的AI智能体,开始被互联网挡在门外。 人愿意买,AI愿意跑腿,但最后一公里却卡在了平台不肯放行上! 而亚马

    来源 AI 行业观察
  8. Claude协助数学家宣称证明黎曼猜想:25万页代码待核验

    2026 年 11 月,Anthropic 数学家阿尔珀格宣称与 Claude 合作找到了黎曼猜想的证明。这项主张引发数学界关注,相关核验仍在进行丨vectorfusionart / Shutterstock 2026年11月20日,在人工智能公司Anthropic工作的数学家勒温特·阿尔珀格(Levent Alpög

    来源 AI 行业观察
  9. 智元精灵G2进驻手机测试产线,蓝思科技与智元达成战略合作

    IT之家 11 月 21 日消息,智元创新(AGIBOT)与蓝思科技达成战略合作,于手机测试产线部署智元精灵 G2 机器人,数十台机器人同时进行测试工位自动上下料、测试设备交互等工作。 据介绍,精灵 G2 可实现手机产品全自动转运、智能分拨与高效上下料。对比传统自动化设备,精灵 G2 通用本体可兼容多条作业产线,大幅降

    来源 AI 行业观察
  10. 机械革命发布大师之路X10:基于NVIDIA RTX Spark,主打企业端侧AI

    日前,机械革命大师之路X10新品发布会在杭州举行。会上,机械革命正式发布基于NVIDIA RTX Spark平台打造的企业桌面AI主机——大师之路X10。发布会汇聚中国信通院、阿里巴巴及众多产业生态伙伴,共同探讨端侧AI的技术创新与应用前景,为人工智能赋能新质生产力发展带来新的实践。

    来源 TechWeb
  11. Claude称证出黎曼猜想,陶哲轩等数学家回应

    智东西11月21日报道,昨夜,Anthropic数学家莱文特·阿尔珀格(Levent Alpöge)在个人网站上发布声明,宣称自己与Claude合作,找到了黎曼猜想及其更强版本——广义黎曼猜想(GRH)的证…

    来源 搜狐科技
  12. Metric AI开源亚美尼亚语模型Ayb 0.5:90亿参数跻身前三

    Metric AI团队推出了Ayb 0.5系列开源语言模型,包含0.8B、4B和9B三个版本。该系列基于Qwen3.5架构,针对亚美尼亚语进行了深度适配,在ArmBench基准测试中表现优异,甚至超越了部分参数量更大的模型。Ayb 0.5不仅支持文本生成和指令遵循,还保留了完整的视觉语言能力,能够用亚美尼亚语描述图片。

    来源 AI 应用前沿
  13. 蔚来重写NOMI底层架构:告别九年旧代码,3000项整车能力接入AI

    蔚来NOMI产研团队重写沿用九年的传统规则架构,转向以大模型主智能体为核心的原生技术架构,取消传统单向指令分发流程。新架构4月完成实车概念验证,8至9月完成3000项整车原子能力工具化改造,依托SkyOS·天枢系统运行,更多技术细节与推送计划将在11月25日公布。

    来源 凤凰科技
  14. ARTEX开源:AI Agent驱动渗透测试,Planner与Worker如何分工

    ARTEX 是一个基于 LLM Agent 的自动化渗透测试平台,采用 Go 和 Next.js 构建。它通过 Planner 和 Worker 协作,自动梳理资产、生成攻击向量并记录流量。本文介绍其核心架构、部署流程及在授权测试中的实际应用,强调人工复核的重要性。

    来源 AI 应用前沿
  15. 谷歌SIM机制曝光:Gemini可继承Claude经验,新模型不再从零开始

    谷歌内部,或许真正实现了RSI! 从此,Gemini已能「继承经验」持续自我进化,Gemini新模型不再从零开始! 或许也正是这个原因,谷歌最近跟疯了似的不停发模型。 Gemini 4 Hydrogen才发布不到一周,更强的Gemini 4 Neon就来了。 答案,或许藏在谷歌与宾夕法尼亚州立大学深夜联合发布的一篇最新

    来源 AI 行业观察
  16. Megaspeed被查:一家游戏背景公司如何做成41.3亿美元AI芯片生意

    2015年,一家名叫7 Road International的公司在新加坡注册。 最初几年,它并不起眼。谁也不会想到,十年后,这家公司会成为英伟达先进AI芯片供应链上一个引人注目的名字。 2023年,公司更名为Megaspeed International,业务重心也开始转向云计算和AI基础设施。 随后,它的生意急速膨

    来源 AI 行业观察
  17. 从姚顺雨到梁文锋:AI高薪神话背后,普通人连“错过”的资格都没有?

    错过时代风口的焦虑,是每一代人的阵痛。只是在互联网和大语言模型如日中天的当下,这种焦虑尤为明显。每一天都有新的高薪神话出现在我们的日常信息流之中,一些二十岁出头,或刚刚迈入而立之年的年轻人,因为人工智能一跃成为当下最炙手可热的科研新星,或是各大企业争抢的技术人才。这样的神话,从姓名同音不同字的姚顺雨...

    来源 腾讯网
  18. Anthropic数学家阿尔波格称与Claude合作完成黎曼猜想证明

    IT之家 11 月 20 日消息,据《科学美国人》报道,当地时间 20 日,Anthropic 数学家莱文特 · 阿尔波格宣称,自己与 AI 模型 Claude 合作,攻克了数学界最著名的难题之一 —— 黎曼猜想。阿尔波格在个人网站发表声明称:“我相信,我与 Claude 合作找到了黎曼猜想的证明。”IT之家注:黎曼猜

    来源 腾讯网
  19. 姚顺雨清华演讲:AI最稀缺的是Trust和Taste,小模型体系值得关注

    腾讯 AI 负责人姚顺雨昨天在清华做了一次分享,博主@幻觉工程师 根据搞到的分享材料,整理成了笔记如下:1. 未来一个值得关注的方向是小模型体系。AI for AI会显著推动小模型发展,因为训练小模型需要的算力更少,可以进行更多实验。未来可能先训练一个能力足够强的大模型,再通过蒸馏得到不同尺寸、分别适配不同任务的模型.

    来源 腾讯网
向下滚动自动加载更多