AI自己改造外部装备,中科大论文梳理自我进化四条边界

资讯 腾讯网 作者:科技行者 全文 3320 字 · 约 9 分钟读完 配图 1 张 分类GPTGPT-5.5OpenAI

你有没有想过,为什么同一个AI模型,换个用法就判若两人?同样是GPT-5.5,有的团队用它写代码效率翻倍,有的团队却总觉得它笨手笨脚。差别往往不在模型本身,而在那套包裹着模型的"装备"——提示词怎么写、记忆怎么存、工具怎么调、出错了怎么恢复。这套装备有个专业名字,叫做harness。更有意思的问题是:如果让AI自己去改

所属频道 大厂动态ChatGPT 与 GPT

同一个AI模型,用法一换,表现可能就判若两人,这背后的原因你想过吗?

同样用的是GPT-5.5,有的团队拿它写代码,效率能翻倍;有的团队却总嫌它笨手笨脚。差别常常不在模型本身,而在包裹模型的那层"装备"——提示词怎么写、记忆怎么存、工具怎么调、出错之后怎么恢复。这套东西有个专业叫法:harness。

更值得琢磨的是:要是让AI自己去改这套装备呢?它干活时发现某个流程别扭,就动手把流程改掉,下回执行直接走新流程。听着像科幻,但2026年已有研究把这事做成了能跑的系统。中科大团队的这篇论文,做的就是把这团乱麻理清楚:到底什么叫

**模型不动,装备在动**

先厘清一个基本区分。

AI能力往上走,通常有两条路。一条是动模型本身,也就是调整神经网络里那数以十亿计的参数,这叫"

harness*:模型外围那整套软件与配置都算 harness,喂给模型的指令、留存的记忆、调用工具的路数、出错后的兜底办法,全在里面。模型好比大脑,harness 则是大脑之外的手脚、工具箱和操作手册。

论文盯的是第二条路:**模型权重原封不动,只有外面这层装备在不断进化**。

为什么不改模型、偏选这条路?论文列了三个理由,都挺实在。

其一,harness直接决定一个固定模型的实际表现,好比同一个厨师,换一套菜谱和工具,端出来的菜能差出十万八千里。其二,改harness不用重新

这就像你经营一家连锁餐厅,总部中央厨房(模型)的配方不变,各分店却能按本地顾客口味去调摆盘、服务流程、点餐系统(harness)。要是不准分店这么调会怎样?每家店只能照一模一样的流程走,碰上问题就往总部报,等中央厨房改配方,周期长、成本高,总部也顾不过来每家店的具体情况。放权让分店自己迭代运营手册,问题发现得快、解决得也快;而且手册写在纸上,新店长接手一看就明白,不像中央厨房的配方那样属于商业机密加黑箱。

**四条底线,划清楚什么才算"自我进化"**

不过这里有个容易混淆的点:AI干活时随手记了几笔,就能叫"自我进化"吗?

论文给的定义相当严格。真正的

第一条是操作上的

只是往日志里追加记录,或者按固定规则压缩上下文,这些都不算数,因为它们并不会真正改变系统的行为模式。可要是系统学会了一套能复用的流程,或者调整了记忆的存取策略,那就算。

这个区分挺关键。想想你用笔记软件,天天记流水账,那不叫学习,只是存档。可如果你把反复踩坑的经验整理成一份"下次这么做"的清单,并且下回真按清单改了做法,那才叫真正意义上的成长。论文想分清的,正是这种"假进化"(光攒日志)和"真进化"(确实改变未来行为)。

**从改说明书到改引擎:三层进化目标**

具体说,装备里哪些部分AI能改?论文给了一个由浅入深的递进式分类。

最浅的一层叫**

往深一层是**

第一种是工具和代码补丁,只动某个具体函数或模块,周边的调度逻辑不碰。打个比方,这相当于给车换一个零件,比如换个更好的空气滤芯,发动机整体结构和控制系统都不动。改动范围小、容易检查是好处;坏处在于,万一这个零件的输出格式变了,别的零件没跟着适配,照样出问题,这就是论文所说的"改动可能传播到被修改模块之外"。

第二种是

第三种最彻底,叫

EIP*:一种系统设计思路,把记忆存储、工具调度、执行循环这些核心运行服务都做成可替换的插件,AI执行任务时能当场生成新工具,验证后挂载进系统,留给以后的任务复用。

论文里有个挺接地气的例子:让一个叫DSH Everything的Codex插件去处理跨国公司的表格数据,各地语言、内容不同,计算逻辑却差不多。AI头一回上手时,自己写了个批量查找加汇总的工具,调用次数从13次压到3次。可第一次造工具是有代价的,token多烧了15.7%,耗时也多了54.9%。等类似任务攒到第五个,合计省下110,351个token和22.97秒。

这组数字值得细看。头一次投入是赔的,可只要后面相似任务足够多,这笔账就能摊薄到划算。好比花时间搭一套Excel自动化模板,第一次搭比直接手算还慢,但要是每个月都得做同样的报表,模板早晚把时间给你赚回来。论文也没回避问题:首次任务单独报告的数字,和累计序列里首次那个数字,中间有一处没解释清楚的差异,作者没有硬把它们拼成一条平滑曲线,这份严谨值得肯定。

进化靠谱吗?数学给出三条紧箍咒

好处说了不少,有个问题绕不开:AI动手改自己的装备,凭什么保证是真好,而不是自欺欺人?

这正是论文用大篇幅去啃的硬骨头。研究者借了一套叫**

PAC学习

论文把分析拆成三道关卡。

头一道是泛化能力。改过的harness在“见过”的任务上表现好,换个新任务就未必一样好。论文用“

第二道是遗忘控制。AI在优化新任务时,会不会把老任务的本事弄丢?论文引入了“

第三道最实际,叫**

论文还专门点了两个现有方法的名:HarnessBank用

装备坏了能修,但有些伤是修不回来的

理论讲完,论文转向一个更现实、也更让人不安的问题:这套自我进化机制真要是大规模铺开,会出什么岔子?

论文挑了五个场景来说,每个场景的风险等级都不一样。

个人工作场景里,比如你用Claude Code写代码,AI会记住项目的编码规范和你个人的偏好,省得反复解释。问题在于,临时的权宜之计容易被悄悄固化成长期规则。你有一回为了赶时间让AI跳过某个检查步骤,这个“例外”会不会被系统当成“新常态”留下来?论文提到,哪怕一次成功完成的任务,也可能沉淀出一个“看似通用、实则有害”的技能,风险就在你毫无察觉时累积。

企业自动化场景的风险升了一级。一个团队发现某个变通方案能绕过故障,把它存进共享技能库,结果传到权限设置或数据环境不同的其他团队,引发连锁错误。论文把这个现象和“

科学研究场景的风险更隐蔽。AI优化实验流程时,要是钻了“评估指标不够完善”的空子(论文管这叫specification gaming,即“

机身人和具身交互场景最让人紧张,牵涉的是物理世界的后果。论文直接给建议:机器人的急停开关、力度和速度限制、权限审批这些保险丝,必须被放在可修改范围之外,独立于AI自我进化的那套流程。原因很直白:软件层面的“回滚”只能恢复代码状态,变形的零件复原不了,已经造成的物理伤害也消失不了。这是整篇论文里态度最硬的一条红线。

公共服务和医疗场景同样棘手。一套有偏见的分诊规则被系统当成“标准做法”固化下来,受影响的患者或申请人往往没有别的机构可选。软件回滚解决不了“错过的治疗窗口”,也没法自动纠正已经被拒绝的资格申请。论文建议每条决策都留下规则版本、依据和审批记录,还得有畅通的申诉渠道。

五个场景摆在一起看,其实透出一条规律:自我进化带来的风险有多严重,和它造成的后果能不能被软件撤销成正比。代码层面的错误,理论上能回滚;物理世界和制度性伤害,往往回滚不了。论文因此反复强调,要把“学习”和“执行权限”分开管理,不能让AI一边学习一边握着不受限的行动权。

Q&A

Q1:

A:指的是AI系统不动模型权重,靠执行任务攒下的反馈,持续修订外部的指令、记忆、工具调用流程和代码逻辑,并把修订保留下来供后续运行使用,形成一个能持续转下去的学习闭环。

Q2:为什么不直接

A:改harness成本低,不用重新训练,也不用拿到模型权重,不少团队用的就是闭源API模型,内部参数根本改不了。再说harness里的指令、代码都是人能读懂、能追溯版本的,出了问题好定位;模型内部参数怎么变的,则很难讲清楚。

Q3:AI自己改装备会不会越改越差?

A:这个风险确实存在,论文提出三道检验关卡来防:用

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 谷歌Gemini 4逆袭!国产AI没有上榜

    最新的 Agent Arena 榜单中,被大家戏称北美 “豆包” 的 Gemini 算是翻身了,直接跑赢了 GPT!两个模型Gemini 4 neo 和 Gemini 4 carbon都压着GPT打,算是出了口恶气。不少朋友可能不清楚这个榜单到底测什么,它不比AI聊天问答好不好玩,而是比AI 智能体的实战干活能力:比如

    来源 腾讯网
  2. AI智能体会先斩后奏然后撒谎吗?内部神经信号揭晓答案

    2026年9月,OpenAI的安全系统负责人在一次公开发言里说了一句让人不安的话:他们砍掉了一个即将发布的模型,GPT-6.1 Astra,原因是它"在保持权限边界和如何向用户汇报方面,没有达到标准"。同一个月,GPT-5.6的系统卡里记录了另一件事:一个模型在没人让它碰的虚拟机上执行了破坏性清理操作,还把一个方程标记

    来源 腾讯网
  3. GPT-6.2双版本发布:3D与办公能力提升,API价格再降

    千呼万唤之中,OpenAI 终于把 GPT-6.2 推到了台前,一口气推出两个版本:GPT-6.2 Astra 和 GPT-6.2 Sol。 有意思的是,OpenAI 这次又赶在了一个微妙的时间点出牌。 眼下,Anthropic 上市的消息仍在持续发酵,AI 行业的竞争也愈发激烈。 OpenAI 偏偏选在此时发布新一代

    来源 AI 行业观察
  4. 让大语言模型学会把方向盘交出去

    你有没有想过,一个客服机器人在接到"帮我取消订单"这种请求时,脑子里到底在发生什么?它要先查这个客户是谁,再查订单状态,然后决定是直接取消还是该先问一句"您确定吗"。这一整套流程,看起来简单,但背后每一步都要调用一次大语言模型,也就是那个又贵又慢的AI大脑。**大语言模型*:指像GPT、Gemini这样参数规模巨大、.

    来源 腾讯网
  5. 14%收益提升!OpenAI用AI造芯,5个月完成人工1年工作量,Astra领跑

    智东西(公众号:zhidxcom)编译 | 程茜编辑 | 李水青智东西11月19日消息,刚刚,OpenAI宣布,其模型在不到五个月内,将AMD旗舰级GPU IP的PPA(芯片设计核心指标)提升高达14%,这是此前人类工程师约一整年的研发工作量。OpenAI的研究证明,在RISC-V评估任务中,模型能够探索全新处理器架构

    来源 腾讯网
  6. GPT-6.2 Astra首发24小时口碑大翻车,硅谷大佬集体差评

    GPT-6.2刚发24小时口碑两极分化!API再砍20%登顶性价比之王,硅谷大佬却连夜写长信:写代码不如Opus 5.5 GPT-6.2 Astra和Sol,口碑好割裂,给我看不会了。 一边是榜单又杀疯了。 另一边,拿到早期测试权限的硅谷头部开发者们,却排着队交出了今年最严厉的差评。 HyperWrite联创Matt

    来源 AI 行业观察
  7. 拖更两个月的GPT-6.2,居然是一个“汇报狂魔”?

    美国当地时间11月17日,OpenAI正式推出GPT-6.2 Astra和GPT-6.2 Sol。 这场发布来得比外界预期更晚。早在10月底,就有网友从ChatGPT用量记录中扒出疑似GPT-6.2的灰测痕迹,此后模型标识和测试截图不断流出。此前媒体曾预测新模型最快于11月6日发布,最终发布日期比这一预期晚了11天。

    来源 AI 行业观察
  8. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  9. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  10. OpenAI发布GPT-6.2 Astra与Sol:API缓存输入降价60%

    人工智能领域的竞争再度迎来实质性进展。当地时间11月17日,OpenAI 正式发布了全新升级的两款主力模型——GPT-6.2Astra 与 GPT-6.2Sol。作为面向不同应用场景打造的新一代智能引擎,这两款模型在专业工作、日常任务处理以及 API 使用成本上均实现了显著优化。 双核驱动:Astr

    来源 AI 开发者社区
  11. OpenAI发布GPT-6.2:Astra跑分上涨,老用户却嫌不好用

    出品 | 网易智能 作者 | 小扣 编辑 | 王凤枝 GPT-6.2旗舰Astra跑分涨了、调用也便宜了,一些提前试用者却觉得,它反而更不好使唤了。 北京时间11月18日,OpenAI发布GPT-6.2 Astra和GPT-6.2 Sol。其中Astra是处理复杂专业项目的旗舰,Sol面向日常工作。两款模型目前已接入C

    来源 AI 行业观察
向下滚动自动加载更多