华中科技大学与阿里共建AI安全中心:首批9课题覆盖大模型攻防

资讯 IT之家 全文 386 字 · 约 1 分钟读完 配图 1 张 分类阿里合作安全对齐大模型

11 月 18 日,华中科技大学与阿里巴巴集团签署合作协议,聚焦 AI 安全共建“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。

所属频道 大厂动态模型发布政策与风险合作与生态

11月18日,华中科技大学与阿里巴巴集团签署合作协议,双方将围绕AI安全共建"智能攻防与前沿安全联合研究中心",首批启动9个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向。11月21日消息传出后,官方公开了其中的课题案例。

华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,课题覆盖大模型安全攻防等

用户让AI智能体代为操作手机、处理复杂任务时,屏幕画面存在被伪造的可能,操作过程也可能遭到恶意诱导。针对这类风险,联合研究中心设置了"图像对抗样本与终端威胁研判"课题,研究如何识别并防护相关安全问题。

在购物、地图、外卖等应用间来回切换时,用户一方面想用上数据互通带来的便利,一方面又怕个人信息在协同中被泄露。"隐私保护关系图谱"课题要做的,就是借助密态计算等技术,让数据做到"可用不可见、协同不透传",使便利与隐私不必二选一。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关 AI 工具

AI 导航

相关推荐 按相关度与热度排序

全部资讯 →
  1. 200万个追踪标记潜入AI供应链,数据托管私密性被证伪

    一项巧妙的隐私实验揭开了AI供应链的隐秘角落。研究人员将约200万个带有唯一标记的“金丝雀”秘密植入提示词与数据流中,结果这些本应保持私密的追踪信息出现在大模型生态的多个环节。实验证明,用户数据在AI供应链中并不会真正保持私密,泄露的范围与深度远超想象。

    来源 AI 科技快讯
  2. OpenAI调整安全策略:35秒内可停模型,第三方评估入驻内部

    21世纪经济报道记者肖潇 报道“前沿大模型的能力正在快速提升,我们理解、对齐和保障安全的能力必须走在前面。”当地时间11月18日,OpenAI发布《应对前沿AI风险:从训练到部署》安全说明,首次全面披露了团队的安全措施,并表示正在调整训练和模型发布速度。一个月前,Anthropic也宣布与第三方安全机构合作,让外部人员

    来源 腾讯网
  3. 阿里27财年2季报:AI云收入610亿,算力紧缺成最大变数

    在因高端芯片被卡脖、股价大幅回调后,阿里巴巴 19 日晚发榜了 27 财年 2 季度的业绩。单看本季财报表现相当不错,基本没有大瑕疵。 AI 云增速继续加快且利润率明显改善;电商板块增长企稳 & 外卖减亏后盈利修复;连新拆出的 AI 实验室与应用板块也营收加速、亏损收窄。 但问题就出在,市场关心的不是现在,而是若之后算

    来源 AI 行业观察
  4. 阿里2027财年Q2:AI云收入609.73亿增53%,平头哥三代GPU路线图加速

    每经记者:陈婷 每经编辑:魏官红阿里巴巴的增长盘面,正在上演清晰的冷热分野。11月19日,阿里巴巴集团(以下简称“阿里”,HK09988)发布2027财年第二季度财报(截至2026年9月30日止季度)。本季度,阿里收入同比增长10%,经调整EBITA同比增长260%,净利润为人民币644.20亿元,同比增长213%,主

    来源 腾讯网
  5. 没收过钱的DeepSeek,限个流就成罪人了?

    要说哪家大模型公司在科技圈和开发者中口碑最好,DeepSeek 认第二,估计没几家敢认第一。 哥们平时也不买量投流,纯靠模型攒口碑。 但我真没想到,就这么一家浓眉大眼的公司,最近居然被差评(不是我们)轰炸了。 这几天,不管是短视频平台还是应用商店,都能看到大批用户吐槽他们,狂刷一星差评。 有人说“死鲸鱼你不想活了吗……

    来源 AI 行业观察
  6. 阿里AI基建面临国产芯片考验:2030年千亿美元云收入目标未变

    本报(chinatimes.net.cn)记者卢晓 北京报道外部管制收紧,2032年20GW的远景目标也可能下调,但阿里巴巴(09988.HK,下称“阿里”)的AI基建投入依然维持在高位,只是未来将把更多的钱花向国产芯片。11月19日,阿里发布2027财年第二季度(截至2026年9月30日)财报:当季收入约2715亿元

    来源 腾讯网
  7. 机械革命发布大师之路X10:基于NVIDIA RTX Spark,主打企业端侧AI

    日前,机械革命大师之路X10新品发布会在杭州举行。会上,机械革命正式发布基于NVIDIA RTX Spark平台打造的企业桌面AI主机——大师之路X10。发布会汇聚中国信通院、阿里巴巴及众多产业生态伙伴,共同探讨端侧AI的技术创新与应用前景,为人工智能赋能新质生产力发展带来新的实践。

    来源 TechWeb
  8. Claude称证出黎曼猜想:25万页证明未公开,陶哲轩回应待验证

    智东西11月21日报道,昨夜,Anthropic数学家莱文特·阿尔珀格(Levent Alpöge)在个人网站上发布声明,宣称自己与Claude合作,找到了黎曼猜想及其更强版本——广义黎曼猜想(GRH)的证明方法。 ▲阿尔珀格发布的声明(图源:其个人主页) 这项困扰数学界167年的难题,可能迎来重大突破。 2006年菲

    来源 AI 行业观察
  9. Claude称证出黎曼猜想,陶哲轩等数学家回应

    智东西11月21日报道,昨夜,Anthropic数学家莱文特·阿尔珀格(Levent Alpöge)在个人网站上发布声明,宣称自己与Claude合作,找到了黎曼猜想及其更强版本——广义黎曼猜想(GRH)的证…

    来源 搜狐科技
  10. 商汤AI落地:模型算力应用并进,港股AI商业化迎双增长

    导读THECAPITAL从模型、算力到应用,商汤正在打通AI落地的多个环节。本文3125字,约4.6分钟作者 | 冯晓亭 编辑 | 吾人来源 | 融中财经2026年,越来越多的AI企业走进港股市场。从大模型、算力芯片到智能驾驶,产业链上的公司相继受到投资者关注。随着壁仞科技、智谱、MiniMax等企业陆续上市,港股也成

    来源 腾讯网
  11. 雀巢联手微软、波士顿动力:AI落地工厂与咖啡机

    瑞士食品饮料公司雀巢宣布与微软、波士顿动力等科技企业达成合作,计划扩大人工智能在工厂运营及消费产品中的应用,以提高生产效率、更好地掌握消费者需求变化,并推动业务增长。雀巢首席技术官Stefan Palzer表示,公司将在瑞士奥尔布(Orbe)新设立的深度科技中心开展技术研发。微软及波士顿动力将提供硬件设备和AI技术,帮

    来源 AI 行业观察
  12. Metric AI开源亚美尼亚语模型Ayb 0.5:90亿参数跻身前三

    Metric AI团队推出了Ayb 0.5系列开源语言模型,包含0.8B、4B和9B三个版本。该系列基于Qwen3.5架构,针对亚美尼亚语进行了深度适配,在ArmBench基准测试中表现优异,甚至超越了部分参数量更大的模型。Ayb 0.5不仅支持文本生成和指令遵循,还保留了完整的视觉语言能力,能够用亚美尼亚语描述图片。

    来源 AI 应用前沿
  13. 光禾AI推企业级智能体平台,FDE模式破解企业改造难题

    大模型进入企业后,如何与内部知识、业务系统和工作流程结合,成为企业推进AI应用的一道实际门槛。员工可以借助通用工具完成问答和内容生成,但涉及内部数据、多系统协作和具体业务执行时,企业仍需要解决系统接入、权限管理和持续运维等问题。 光禾AI选择以企业级智能体平台为底座,通过FDE项目改造服务,将AI能力嵌入企业实际业务。

    来源 AI 行业观察
  14. 蔚来重写NOMI底层架构:告别九年旧代码,3000项整车能力接入AI

    蔚来NOMI产研团队重写沿用九年的传统规则架构,转向以大模型主智能体为核心的原生技术架构,取消传统单向指令分发流程。新架构4月完成实车概念验证,8至9月完成3000项整车原子能力工具化改造,依托SkyOS·天枢系统运行,更多技术细节与推送计划将在11月25日公布。

    来源 凤凰科技
  15. 薛澜谈AI治理:全球公共产品如何建构制度

    编者按:今年是APEC“中国年”。我们走访了我国多位长期深度参与APEC政策研究与外交活动的权威学者、政策智囊以及大湾区行业名家,并与他们展开深度对话,旨在呈现各方对亚太经济合作的思考,探讨粤港澳大湾区在亚太经济合作中的角色与机遇,为APEC“中国年”汇聚智慧与力量。21世纪经济报道携手前海国际事务研究院,共同推...

    来源 腾讯网
  16. ARTEX开源:AI Agent驱动渗透测试,Planner与Worker如何分工

    ARTEX 是一个基于 LLM Agent 的自动化渗透测试平台,采用 Go 和 Next.js 构建。它通过 Planner 和 Worker 协作,自动梳理资产、生成攻击向量并记录流量。本文介绍其核心架构、部署流程及在授权测试中的实际应用,强调人工复核的重要性。

    来源 AI 应用前沿
  17. 从姚顺雨到梁文锋:AI高薪神话背后,普通人连“错过”的资格都没有?

    错过时代风口的焦虑,是每一代人的阵痛。只是在互联网和大语言模型如日中天的当下,这种焦虑尤为明显。每一天都有新的高薪神话出现在我们的日常信息流之中,一些二十岁出头,或刚刚迈入而立之年的年轻人,因为人工智能一跃成为当下最炙手可热的科研新星,或是各大企业争抢的技术人才。这样的神话,从姓名同音不同字的姚顺雨...

    来源 腾讯网
  18. 拉加德:欧洲AI算力占比要提到15%,2030年前需投1.3万亿欧元

    据报道,欧洲央行行长拉加德表示,欧洲若要将其全球AI算力占比从目前约5%提升至2030年的15%,预计需要投资约1.3万亿欧元。拉加德指出,欧洲在关键原材料和技术领域的外部依赖正构成经济主权挑战,应通过欧洲层面的公私合作、公共资金先行承担风险等方式,吸引私人资本投入芯片工厂和数据中心建设。(界面)

    来源 AI 行业观察
  19. 亚马逊封堵AI购物助手,马斯克放话:也许该做个对手

    AI刚学会替你干活,亚马逊、摩根大通、嘉信理财就开始堵门了! 10月18日,@trikcode在X上列出了一份「AI碰壁清单」,点名达美航空、摩根大通、嘉信理财、Yelp和亚马逊。 他吐槽: 那些本该替我们搞定一切的AI智能体,开始被互联网挡在门外。 人愿意买,AI愿意跑腿,但最后一公里却卡在了平台不肯放行上! 而亚马

    来源 AI 行业观察
  20. 姚顺雨清华演讲:AI最稀缺的是Trust和Taste,小模型体系值得关注

    腾讯 AI 负责人姚顺雨昨天在清华做了一次分享,博主@幻觉工程师 根据搞到的分享材料,整理成了笔记如下:1. 未来一个值得关注的方向是小模型体系。AI for AI会显著推动小模型发展,因为训练小模型需要的算力更少,可以进行更多实验。未来可能先训练一个能力足够强的大模型,再通过蒸馏得到不同尺寸、分别适配不同任务的模型.

    来源 腾讯网
向下滚动自动加载更多