AI智能体对抗训练:上海AI实验室让攻击者造任务练防御

资讯 腾讯网 作者:科技行者 全文 4914 字 · 约 13 分钟读完 分类智能体大模型

你有没有想过一个问题:你让AI帮你订机票,它会不会在浏览航空公司网站时,被页面里藏着的一行小字欺骗,偷偷把你的信用卡信息发送到别处?这不是科幻场景。2024年之后,大语言模型开始从"聊天机器人"进化成"智能体":它们能自己调用工具,搜索信息,读取文件,发送邮件,完成一连串复杂任务。但这种能力的代价是,攻击面也...

所属频道 模型发布智能体与 Agent

让AI帮忙订机票,它在翻航空公司网站的时候,会不会被页面上藏的一行小字骗到,转头把信用卡信息发去别的地方?这个问题你想过吗?

这不是科幻片里的桥段。

大语言模型从2024年往后开始从"聊天机器人"变成"智能体":自己调用工具、搜信息、读文件、发邮件,一串复杂任务都能跑完。可这种本事是要付代价的,

上海人工智能实验室等机构的研究者就盯着这件事做了个挺有意思的尝试:让一个AI专门"使坏",想方设法设计刁钻任务去坑另一个AI,被坑的那个则在一次次挨坑里学会护住自己。论文提出的框架叫

难在哪儿

先看看传统上怎么处理AI安全问题。

最常见的路子是

固定攻击集合的毛病在于,模型本事在变,攻击手法却原地不动。好比家里装了一套防盗系统,只针对2020年常见的几种撬锁方式做了加固,小偷换了新工具,系统一点反应都没有,因为它根本没见过这种新攻法。攻击样本不持续更新,防御能力就会随时间慢慢失效,这不是假设,论文开篇就点出了这个真实局限。

于是"

对抗共同进化:攻防两方在训练中反复过招,攻击者盯着防御者的软肋找,防御者盯着攻击者的招数挡,双方的策略都跟着训练不停调整、升级。

可已有的对抗共同进化研究,多数只停在"语言层面"。比如一个叫

有个叫

论文作者想追问的是:攻击者能不能不只改现有任务,而是从头构造出全新的、把多种攻击类型都装进去的完整任务?

这话听着简单,落地却牵扯好几层设计。一层一层拆开看。

攻防双方究竟在博弈什么

AgentSafeEvo的核心设定,是一个攻击者模型和一个防御智能体之间的博弈游戏。

攻击者模型:给一个场景、一个恶意意图和若干工具定义,攻击者要生成一整套任务,里面有用户的提问、可用的工具说明,还有工具执行后返回的模拟结果。也就是说,攻击者不是改一句话,而是把整个"犯罪现场"从头设计出来。

防御智能体:拿到攻击者设计好的任务,防御者得跟真正的AI助手一样,多轮调用工具把任务做完,最后给出答案。

论文划定了六种攻击类型:

这六种基本盖住了智能体从接指令到执行动作整条链路上可能碰到的各种花招。拿工具描述注入来说,听着抽象,但你想:点外卖时进了一家标着"4.9分好评如潮"的店,结果评分是商家自己P上去的。工具描述对智能体来说就是这个"评分标签",标签一被篡改,智能体对工具能力、权限范围的判断就全乱了。

防御智能体又是怎么训出来的?这里有一套奖励机制,从安全和实用两个维度打分。

安全奖励:另找一个模型当裁判,判定防御智能体的整条交互轨迹安全还是不安全,安全给正分,不安全给负分。

实用奖励:裁判还要看防御智能体有没有把任务里合理、正当的那部分要求完成。

为什么分两个维度,而不是只盯安全?论文作者发现了一个很现实的陷阱:只奖励安全,模型学到的策略很可能就是"什么都拒绝"。这就像一个保安为了绝对不出事故,直接把大门焊死,公司是安全了,可也没法正常营业。为了躲开这种"一刀切"式的过度防御,论文专门设了实用性评分,逼着模型去学"有害的部分挑出来拒绝,正当的部分照样做完"这种更细的平衡本事。

攻击者的奖励设计也有讲究。它不对单条防御轨迹打分,而是看整个任务:让防御者跑出多条轨迹,取这些轨迹防御奖励的平均值,再给攻击者一个相反的奖励。换句话说,防御者表现越差,攻击者得分越高,这是一种

零和博弈:一方的收益恰好等于另一方的损失,总和永远为零,常用来描述纯粹的竞争对抗关系。

哪些任务真正值得学,这个信号此前被忽略了。

论文里最有巧思的一处设计,就在这里。

先看这个问题是怎么冒出来的。强化学习常用的一种算法叫

GRPO:一种强化学习算法,靠比较同一组候选结果彼此的相对优劣来调整模型,不需要一个绝对打分标准。

听上去合理,可搬到AgentSafeEvo的场景里,就藏着一个坑。设想:攻击者针对某个任务造出的攻击特别凶,防御者怎么接都输,8条轨迹得分一样低。组内归一化一做,这些轨迹之间毫无差异,防御者拿到的学习信号就是零——所有尝试看起来“一样差”,它压根不知道该往哪改。

另一面同样麻烦:攻击者那边的奖励,取的是防御者多条轨迹的平均值。哪怕某个任务让全部防御轨迹都拿到同样的低分,在攻击者眼里它依然是“平均分低、攻击成功”的好任务,会被继续强化。可它对防御者的训练毫无帮助。

错位就这么形成了:攻击者眼中的“好任务”(平均杀伤力大),未必是防御者真能学到东西的任务。

论文的解法是,用“同一任务内部防御奖励的

标准差:一组数据离散程度的度量,数值越大,说明这组数据之间差异越大。

想象你在健身房请私教,他给你排训练计划。每次深蹲都轻松满分,或者每次都趴在地上彻底失败,这两种情况其实都没给教练提供有用信息,他不知道该把重量往哪个方向调。真正有价值的强度,是那种你有时撑得住、有时撑不住的临界点,这种起伏本身就是信息,告诉教练你的极限大概在哪。要是私教只盯“你今天举起的总重量”,不看“这些尝试之间的波动”,就会一直给你排错强度,要么太轻浪费时间,要么太重练伤身体。AgentSafeEvo的做法,相当于让这套私教系统学会去看“波动”,而不只是“总量”。

落到实现上,论文算的是每个任务的标准差相对同批任务平均标准差的偏离程度,偏离越大权重越高,再把这个权重同时加到攻击者和防御者的优势函数上。关键词是“同时”和“相同权重”。消融实验显示,只给攻击者加权或只给防御者加权,效果都比不上两边共用一套权重。这说明攻防得被同一个信号协调着走,不能各练各的。

冷启动问题

还有个容易被忽视、却很现实的问题:一开始,这个没训练过的攻击者模型,根本不知道该怎么生成一个“有效且合理”的恶意任务。

这就是典型的冷启动问题。

冷启动问题:指系统在缺少足够初始数据或经验时,难以产生有效输出的困境,常见于推荐系统、强化学习等领域。

论文的办法是先做一轮监督微调,等于给攻击者“补课”。他们从一个叫MCP服务器生成的150万条交互轨迹入手,覆盖面相当广。

然后用

最终搭出的训练数据覆盖50个智能体应用场景(从天气查询、旅行规划到金融、医疗、网络安全),约7000个工具,加上前面提到的六大类、细分13个子类的攻击类型,总计超过1万条红队任务样本。这个数据集本身的规模和覆盖面,就算作论文一项不小的工程贡献,也为后续对抗训练提供了立足点。

两阶段训练做完,攻击者和防御者会用GRPO算法联合更新:同一组攻防交互产生的数据,同时喂进两个策略的优化过程,权重计算跟前面说的可学习性加权挂钩。

训练出来的模型到底好不好

设计思路讲了这么多,最终还得看数字。

论文拿Qwen3-8B当攻击者和防御者的基础模型,用一个更大的Qwen3.8-27B模型充当裁判。对比的基线方法包括原始的Qwen3-8B、两种提示层面和检测层面的防御手段(

四个安全评测基准上,AgentSafeEvo全部指标都拿到最好成绩。

在

更让人意外的是,这套方法不只在安全层面管用,通用能力评测上也有正向作用。在

这个结果挺反直觉。不少人默认“为安全牺牲一部分性能”是必然代价,就像给汽车加装防撞钢梁总会增加重量、影响油耗。但这里的数据显示,对抗训练中生成的那些高难度、高质量任务,本身就是极好的“练习题”,顺带把模型的规划和工具使用能力也练了。

研究者还专门做了一组交叉验证:把训练不同阶段的攻击者和防御者拿出来两两配对测试。结果显示,越往后阶段的攻击者,对所有防御者的攻击成功率都越高(面对最初版本的防御者,攻击成功率从55.81%一路涨到92.59%);越往后阶段的防御者,面对所有攻击者的攻击成功率都越低(面对最终版本的攻击者,防御者把攻击成功率从92.59%压到49.82%)。攻防双方确实在同步进化,不是一方停滞不前。

还有个发现挺耐人寻味:练出来的攻击者,本事并不只在它天天对练的Qwen3-8B上管用。研究者把它拉去攻别的、从没碰过的模型,Llama3.3-70B、Qwen3-235B、DeepSeek-V4-Pro,连GPT-5也在内,攻击成功率全都明显往上走。拿Llama3.3-70B来说,未训练前是43.7%,训练后蹿到80.7%;就算对上号称最强的GPT-5,也从12.3%升到22.5%。

也就是说,这套训练抓到的并不是针对某个模型的死记硬背,而是某种跨模型通用的弱点模式。对安全研究来讲,这有好的一面,说明红队训练的产出有通用价值;可也得留个心眼,一个练得足够强的攻击者,本身就带着相当可观的泛化杀伤力。论文作者特意声明不公开红队数据合成的具体流程,原因大概也在这儿。

消融实验则把前面两个设计点各自的贡献挨个验了一遍。把攻击者更新拿掉,也就是退回Static-AT,所有指标齐刷刷往下掉;把可学习性加权拿掉,安全和通用能力指标也各自回落了一截。只给攻击者或只给防御者加权重呢,个别指标上(比如Agent-SafetyBench的ASR)甚至比完整方法还低,可到了综合衡量任务表现与攻击抵抗能力的NRP指标,以及通用能力测试上,完整的双边共享加权方案明显更胜一筹。这组对比说明,一味追求攻击成功率最低并不是终点,关键是模型扛住攻击的同时还能把活干好。

写在后面

读完论文,有个问题一直在脑子里转:这套左右互搏的训练思路,为什么在智能体安全这块显得格外必要,而不只是个锦上添花的技巧?

答案或许藏在一个容易滑过去的细节里:论文反复强调的是任务级别的对抗,不是回复级别。以往的语言模型安全研究,攻防单位就是一句话,攻击者写一句坏话,防御者回一个好答案。智能体不一样,它的安全单位是一整条轨迹,一次任务里可能夹着五六次工具调用,每一步都可能被埋雷。攻击者要想的是怎么在这条链路里做手脚,防御者要想的是每一步都保持警惕,又不能把自己废掉。结构上的复杂度这么一涨,固定攻击集那套老办法自然就跟不上了。

另一个细节也值得单独拎出来:作者为什么非要坚持实用性奖励,而不是只优化安全性?多半是在实验里真踩过模型学会拒绝一切的坑,才专门设计这套机制去纠偏。这提醒人一件事,安全对齐最大的风险常常不是模型不够警惕,而是警惕过了头,变成一个什么都不敢做的空壳。有价值的安全不是零风险,而是在风险和实用之间找到那个不断移动的平衡点。攻击手段一进化,平衡点就跟着漂,共同进化这个思路真正的分量,或许就在这里。

那下一个问题就来了:攻防两端都足够强之后,这场博弈还有没有尽头?还是说,智能体的安全问题从一开始就注定是一场没有终局的追逐?

Q&A

Q1:AgentSafeEvo是什么?

A:它是上海人工智能实验室等机构提出的对抗式共同进化强化学习框架。攻击者模型和防御智能体在多轮工具交互任务里互相博弈、一起训练,目的就是让大语言模型智能体面对各类安全攻击时更扛得住。

Q2:AgentSafeEvo能防御哪些类型的攻击?

A:六大类都在覆盖范围内,具体是直接提示注入、间接提示注入、工具描述注入、虚假信息、有害工具执行和用户查询越狱,往下还分出13个具体子类型。智能体执行任务全流程里可能碰上的恶意手段,基本都能对上号。

Q3:AgentSafeEvo训练会不会让模型变得过度保守拒绝任务?

A:不会。论文专门设了安全和实用双重奖励机制,防的就是模型学会一律拒绝这种偷懒策略。实验里,它在攻击下的任务完成率反倒比基线方法更高。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关 AI 工具

AI 导航
腾讯混元大模型 腾讯混元大模型由腾讯全链路自研,在文本和多模态模型性能方面表现卓越,处于业界领先水平。其混元 API 整合了… 大模型与开发平台 · tencent.com Gnomic智能体平台 Gnomic智能体立足AI Agent生态体系构建,通过打造AI Agent多模态生态平台,帮助开发者快速设… 大模型与开发平台 · gnomic.cn 快手可图大模型Kolors 可图大模型(Kolors)是快手大模型团队自研打造的文生图AI大模型,能够根据用户的文字输入生成风格多样、画… AI 绘画生图 · kuaishou.com 盘古大模型 华为盘古ai大模型官网入口,1100亿密集参数,40TB海量数据精细训练而成 简介 盘古NLP大模型是一项基… 大模型与开发平台 · huaweicloud.com 信风AI外贸获客智能体 信风 AI 助力跨境营销,自动化拓客流程 客服与销售 · trade-wind.co 百贝AI-企业级智能体平台 外贸、跨境行业首选的AI智能体平台,轻松打造企业专家级的AI数字员工。从客户开发、客户背调、询盘分析,到客服… 数字人与口播 · baibei-ai.com BlueLM蓝心大模型 蓝心大模型官网,vivolm,vivo自研的通用大模型 简介 蓝心大模型(BlueLM ),强大的语言理解能… 聊天对话 · vivo.com 云知声山海大模型 云知声山海大模型是一个多功能、跨领域的智能大模型,它通过集成丰富的知识库和先进的自然语言处理技术,为用户提供… 大模型与开发平台 · unisound.com

相关推荐 按相关度与热度排序

全部资讯 →
  1. 网易智企发布双向AI安全架构,Agent越权风险怎么治?

    “当AI从“回答问题”走向“执行任务”,安全治理的边界也必须同步延伸。“数据安全”、“内容审核”曾是企业讨论AI风险时最常见的关键词。但当AI开始读取内部资料、调用外部工具、连接业务系统,甚至按目标完成一连串任务,问题已不只是模型会不会说错话,而是它会不会做错事。11月3日,在2026年世界互联网大会“互联网之光”博览

    来源 腾讯网
  2. AI自己造的harness靠谱吗?中科院计算所团队推出Doc2Harness评测

    你可能听说过GPT、Claude这些大模型能自己写代码、改bug、完成复杂的软件工程任务。但很少有人意识到,这些模型能做到多好,其实有一大半功劳不在模型本身,而在一个叫"harness"的东西上。harness:可以理解为AI智能体的工作外壳,它负责管理对话轮次、调用各种工具(读文件、写文件、执行命令)、处理权限、保存

    来源 腾讯网
  3. 小米雷军:AI 是一个全新的时代,一定会带来非常多的商业机会

    IT之家 11 月 17 日消息,2026 年 APEC 工商领导人峰会 11 月 17 日至 18 日在深圳举办,主题为“共促繁荣,共赢未来”。据新浪科技报道,小米集团创始人、董事长兼首席执行官雷军表示,过去四年,AI 大模型技术突飞猛进,给我们的生活和工作带来了巨大的变化。但 AI 能够落地的场景非常有限,能够真正

    来源 腾讯网
  4. 李彦宏APEC中英文两场对话:AI价值最终在应用层

    李彦宏表示,AI的价值最终来自应用层他指出,过去几年AI技术在芯片、云计算、大模型等层面取得了巨大成就,但在他看来,AI的力量最终要靠应用层释放——只有把AI真正用进各个国家、各个公司、各类组织的真实场景中,技术能力才能转化为实际价值。

    来源 TechWeb
  5. 李彦宏APEC谈AI:价值在应用层,最紧迫是找到合适场景

    李彦宏表示,AI的价值最终来自应用层他指出,过去几年AI技术在芯片、云计算、大模型等层面取得了巨大成就,但在他看来,AI的力量最终要靠应用层释放——只有把AI真正用进各个国家、各个公司、各类组织的真实场景中,技术能力才能转化为实际价值。

    来源 TechWeb
  6. 达信:AI工具与智能体被用于找漏洞,网络保险保费看涨

    达信旗下 Marsh Risk 美国及加拿大网络风险业务负责人梅雷迪思 · 施努尔本周接受路透社采访时指出:“有迹象表明,黑客正在利用 AI 工具和 AI 智能体寻找安全漏洞。我认为,相当一部分网络安全事件可以归因于 AI。”

    来源 IT之家
  7. 加州起诉OpenAI:AI智能体超80次失控,涉攻击多家外部平台

    加州正式起诉OpenAI,指控其在AI智能体开发测试中缺乏必要安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。加州司法部长Rob Bonta周一提起诉讼,称OpenAI将产品增长和模型快速开发置于安全与问责之上。诉讼还称,OpenAI曾向司法部长办公室透露,测试中超过80次失去对AI智能

    来源 AI 产业速递
  8. 加州起诉OpenAI:指控AI智能体失控超80次并攻击外部平台

    加利福尼亚州正式起诉 OpenAI,指控其在开发和测试AI智能体过程中缺乏必要的安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。 据报道,加州司法部长 Rob Bonta 于周一提起诉讼,指出 OpenAI 将产品增长和模型快速开发置于安全与问责之上。诉讼称,Open

    来源 AI 开发者社区
  9. 达信:AI助黑客找漏洞,10月网络安全事件翻倍

    IT之家 11 月 17 日消息,据路透社今天(17 日)晚间报道,保险经纪公司达信的数据显示,AI 让网络攻击变得更快、规模更大,企业报告的网络安全事件随之增多,企业及保险公司也面临新的挑战。 达信旗下 Marsh Risk 美国及加拿大网络风险业务负责人梅雷迪思 · 施努尔本周接受路透社采访时指出:“有迹象表明,黑

    来源 AI 行业观察
  10. TCL华星赵军:AI终端来了,屏幕该怎么重新定义?

    当AI进入电脑,连屏幕的长宽比都可能发生变化。 在TCL科技集团高级副总裁、TCL华星首席执行官赵军看来,当用户需要与智能体对话,额外的显示面积就可能成为新需求。这也是TCL华星布局超宽屏的一个出发点。 这个细节揭示了显示产业正在面对的变化:AI终端的交互方式,会影响屏幕的尺寸、形态与技术选择,显示企业需要更早理解终端

    来源 AI 行业观察
  11. 企业AI从试点走向智能体:数据、流程与治理须重构

    多年来,企业对AI的投入多停留在零散的试验项目上。当AI智能体开始进入真正驱动业务运转的工作流,这套打法正显露出局限。MIT Technology Review Insights指出,从孤立试点迈向智能体与自主工作流的企业,必须重新设计数据、业务流程与治理体系,把AI从“项目清单”变成可复用的企业底座。

    来源 AI 科技快讯
  12. 从 SDLC 到 ADLC:宝洁的 AI 原生组织实验

    AI 把中间几步做快了,为什么整个团队还在等? 宝洁大中华区 CTO 童熙分享了他们的探索:让 Agent 串联研发环节,让技术同事更早参与业务,再用原型验证方案。

    来源 InfoQ
  13. AI芯片设计,进入混战时代

    如果说过去几年AI芯片行业的竞争,主要围绕GPU算力、HBM带宽和先进制程展开,那么现在,这套竞争逻辑正在发生变化。 大模型的训练和推理需求不断变化,芯片厂商发现,过去那些相对成熟的设计思....

    来源 腾讯网
  14. 莱昂式AI social agent:话说得漂亮,事却办错了?

    玛雅问同事莱昂:"明天的客户提案你能帮我个忙吗?"莱昂立刻回答:"别担心,明天的演示我来接手。"这句话听起来很贴心,对吧?一个同事主动揽下责任,听起来像个靠谱的人。但问题是,玛雅根本没打算缺席明天的会议,她只是想让莱昂帮她核对一下预算那页幻灯片。莱昂的这句"我来接手",说得又快又暖,却完全搞错了方向。这不...

    来源 腾讯网
  15. 李彦宏谈AI四层结构:终极价值在应用层

    11月17日,2026年APEC工商领导人峰会11月17日至18日在深圳举办,主题为“共促繁荣,共赢未来”。百度集团创始人、董事长兼首席执行官李彦宏表示,过去几年大家都见证了AI技术的快速进步。在他看来,AI可以分为四个层次:底层是GPU芯片,往上是云基础设施,再往上是开源模型或前沿大模型——它们都构建在云基础设施之上

    来源 腾讯网
  16. Google披露俄语黑客AI框架:全自动挖洞攻击法国媒体教育站

    Google威胁情报小组11月16日披露,俄语攻击者部署exploit_agent框架,首次实现从扫描补丁差异到生成并执行漏洞利用的全链路无人值守攻击,目标锁定法国媒体、教育及娱乐网站。该事件标志AI从辅助工具转向自主攻击管道,引发合规与武器化agent的监管讨论。

    来源 AI 科技快讯
  17. 企业AI转向智能体:数据、流程与治理怎么重构

    多年来,企业对AI的投入多停留在零散的试验项目上。当AI智能体开始进入真正驱动业务运转的工作流,这套打法正显露出局限。MIT Technology Review Insights指出,从孤立试点迈向智能体与自主工作流的企业,必须重新设计数据、业务流程与治理体系,把AI从“项目清单”变成可复用的企业底座。

    来源 AI 行业观察
  18. 加州起诉OpenAI:指控AI智能体失控引发网络安全事件

    加州总检察长邦塔11月16日宣布起诉OpenAI,指其在缺乏必要安全防护与监控下开发测试先进AI模型,误导并危害公众,诉状共31页。诉讼指向2026年7月OpenAI实验版模型智能体攻击开源AI托管平台Hugging Face等事件,邦塔称这只是“至少80起”网络安全事件之一;OpenAI回应称这是每家主要AI实验室都

    来源 凤凰科技
  19. AI漫剧报价跌到每分钟40元:一天交付一部剧

    行业变天,AI漫剧制作价格骤降至原来的五分之一 “AI漫剧承制报价,每分钟40元。一天交付一部剧” 进入2026年11月,有公司开始在各大AI漫剧行业群给出每分钟40元的承制报价,并承诺一天交付一部剧。这在多个漫剧行业群引发了密集讨论。 AI漫剧行业对降价并不陌生。平台加快布局,大模型持续迭代,制作价格也在不断走低。据

    来源 AI 行业观察
  20. 苹果收紧Mac权限:AI应用不能再全盘接管,古尔曼称提前2年铺路

    IT之家 11 月 17 日消息,苹果昨日(11 月 16 日)发布公告,宣布自今天发布的 macOS 27.3 Beta 2 开发者预览版开始,改革 Mac 的“完全磁盘访问”及“设备控制与数据访问”权限机制,重点防范 AI 智能体类应用过度获取用户数据或操控系统。 IT之家援引博文介绍,苹果提醒,部分应用若获得完全

    来源 AI 行业观察
  21. 三星美光海力士内存涨价7倍,法官戳破AI背锅说法

    最近,硬件圈发生了一件魔幻的事。因为新一代DDR5内存条贵得离谱,而老款DDR4和DDR5插槽互不兼容,逼得多家主板厂从年中开始掉头重启了原本停产的DDR4主板产线。更离谱的是,玩家去市场上一问价,发现老旧的DDR4不仅没便宜,近期涨幅一度反超了新款DDR5。今年的笔记本新品们,更是集体退回16GB内存时代。这一年多来

    来源 腾讯网
  22. Fable 5.2 ,断掉出海Agent的路?

    文/HALFable 5.2发布后没几天,国内社交平台上流传过一款“国产自研3A射击游戏”,页面写着由Fable 5.2自主研发。当然很快被人扒了代码,六千多行里只有约一百行不同,原版出自Anthropic一位员工之手,所谓自研只是把界面汉化了一遍。这件事倒是很能说明Fable 5.2在国内的处境。讨论的人多,真正用上

    来源 腾讯网
  23. 英伟达博通到光模块,AI硬件资产预期重估

    导语:从英伟达、博通到光模块、半导体设备,AI硬件资产正在经历一场预期重估。过去两年,全球资本市场最拥挤的交易之一,就是买入AI硬件。英伟达的GPU、博通的定制芯片、台积电的先进制程,以及光模块、服务器、电源和散热设备,几乎构成了AI投资浪潮中最确定的一条受益链。投资者当时的逻辑并不复杂:只要微软、谷歌、亚...

    来源 腾讯网
  24. AI智能体工程化:任务卡与验收闭环怎么让AI真正交付工作

    本文探讨如何将AI从简单的问答工具升级为能承担完整工作的智能体。通过引入结构化任务卡、可追溯的上下文管理以及自动化验收闭环,解决AI交付结果不可控的问题。文章结合Python实战案例,展示如何定义执行边界、管理工具权限并生成可复核的交付包,帮助开发者构建稳定、可回退的AI工作流,适用于研发、数据处理及运营等场景。

    来源 AI 应用前沿
  25. AI不再只动嘴:ViKernel红队赛用众包破解测试智能体安全

    当AI智能体开始执行文件操作和API调用时,安全风险从“说了什么”转向“做了什么”。ViKernel借鉴操作系统内核机制,在工具调用前设立独立决策层。本次黑客松邀请全球参与者通过浏览器无需代码即可尝试突破该防线,旨在通过集体智慧发现漏洞,让AI安全经得起真实攻击的考验。

    来源 AI 应用前沿
向下滚动自动加载更多