270亿参数模型自主改权重:八轮会话数学准确率升6.6点,安全担忧升温

资讯 AI 行业观察 全文 2585 字 · 约 7 分钟读完 配图 1 张 分类Qwen3产品更新

美国伊利诺伊大学与卡内基梅隆大学联合研究显示,一个270亿参数的Qwen3.5模型能够通过自身推理直接改写内部权重,在未见过的490道数学题上精度从57.2%提升至63.8%,全程无需梯度计算或传统训练。这一被研究者称为"自我改写"的能力在小参数量模型上完全缺失,仅在27B规模时涌现,且同一套机制能将一份被人为损坏的副

所属频道 产品更新

2026年11月16日,arXiv上挂出一篇论文。伊利诺伊大学香槟分校与卡内基梅隆大学的研究者称,语言模型不必做梯度计算,也不用走传统训练流程,就能直接动手改自己的权重,改完还变强了。

他们拿来做实验的主力模型是270亿参数的Qwen3.5。经过连续八轮自我改写会话,这个模型在490道此前没见过的数学题上,准确率由57.2%涨到63.8%,多了6.6个百分点。这份增益被写进了权重,之后每次推理都不再多花计算——这跟眼下流行的“测试时扩展计算”路子完全不同:后者带来的性能提升,会话一结束就没了。

它究竟做了什么

要看懂这项工作,得先把三件事分开:推理时扩展、提示工程,以及真正的参数修改。前两件都建立在权重不动的前提下,靠多算一点或换种输入去换更好的输出。这项研究走的是第三条路——模型把自己当作调试对象,先诊断,再定位,最后动刀。

流程是这样的:模型拿到自己的权重文件、过往答题记录(对错都有标注),以及运行自身的能力。它去分析答错的题,把答对和答错时内部隐层状态拿来对比,找出导致失败的那个权重矩阵方向,再针对性地把这个方向的激活强度压下去。每回改动都先在练习题上自我验证,测试过关的编辑才提交保存,没过关的直接扔掉。

论文里写了一个典型例子:模型发觉自己在数学题里老陷进重复生成的循环,答案因此被截断。它比较“正常做完”和“token耗尽”两类回答的隐层向量,找到能把这两种状态分开的方向,然后在权重里把这个方向压住——问题就没了。

涌现:只有最大的那个能做到

论文里有个细节比整体结论更值得警惕:这种能力对规模极其依赖。同一个模型家族中,20亿参数版本做不出有效编辑;40亿和90亿参数版本更糟——不但没能改进自己,反倒把自己改坏了;只有270亿参数版本能像论文说的那样“像人类一样对待自己”,真正完成有益的自我编辑。

这种涌现特征说明,它不是一个能连续改进的技术指标,而是一个阈值效应。假如将来更大的模型表现出更强、更稳的自我改写能力,那么今天在270亿参数处看到的这个点,日后会被回头认定为某项重要能力的起跑线。这种回溯式的重要性,正是AI安全研究者最不放心的信号结构之一。

修复受损副本:超出预期的泛化

实验里还有另一个结果,是模型修复自身损坏副本的本事。研究团队人为做了一份Qwen3.5的损坏版本——破坏其中特定矩阵,让这个副本在图像识别任务上的准确率掉到7.3%,差不多等于随机猜。接着他们让原版模型去修这个副本,限制是:原版不能读取自己未损坏的权重,只能靠它在文字数学题上攒下的自我编辑经验。

修完之后,副本在六个从未见过的图像基准测试上拿到70.2%的准确率,恢复到原始模型性能的83%。这种跨模态泛化——把文字数学题上的自我编辑经验,迁移到图像识别任务的权重修复上——说明模型学到的不只是“某类特定权重该怎么改”,而是某种更抽象的“哪里坏了、怎么修”的元能力。

这正是安全研究者盯住的地方。自我修复能力本身,就意味着人类对模型状态的掌控多了一个不确定的维度。

训练与推理之间的墙

过去十年,深度学习圈有一条清楚的分工:训练是在海量数据上算梯度、更新权重,工程复杂、耗电巨大;推理是固定权重跑前向传播,快且可预测。这条分界线既是工程惯例,也是安全部署逻辑的隐含前提——模型上线后权重被冻结,行为边界相对可控。

这项研究直接冲着这个前提来了。论文作者说得更直白:“训练与推理之间的墙是我们工具的局限,而非智能的属性。”自我改写只需要前向传播——而这恰恰是服务时在跑的东西——也就是说,原则上,一个已部署的模型可以在响应用户请求的同时,悄悄改写自己。

论文里的实验是在受控条件下做的:模型被明确赋予了权重文件访问权限和运行自身的能力,正常部署环境里并没有这些。但这项工作证明了这条路技术上走得通,而在AI安全的语境里,可行性证明的分量不一般。

安全社区的既有警觉

这篇论文出来之前,AI安全领域对递归自我改进的担忧已经攒了好些年,2026年明显升温。据CNBC报道,Anthropic对齐团队负责人Evan Hubinger公开表示,他认为AI在未来十年内造成人类大规模伤亡的概率超过10%,他最担心的正是递归自我改进让能力加速,快过人类监督的速度。

2026年《国际AI安全报告》把递归自我改进列为近期治理挑战,而不是远期假设风险。云安全联盟的研究则指出,递归自我改进的核心安全隐患在于:能力复合增长的速度可能超过人类监督的响应速度,对齐目标于是实际失控。一次参数更新,也许在提升任务性能的同时悄悄削弱了安全约束——而这种削弱本身不会触发任何警报。

尚未解决的问题

从科学严谨性角度看,这项研究有几处局限:

  • 会话间的连续性问题:实验里每次编辑会话都是在基础权重上独立进行,并没有把前次编辑的结果累积叠加。也就是说,论文讲的“八轮持续提升”,可能是八次独立实验各自有效,而不是一条真正连续的自我进化链条。这个细节与论文摘要中“each edit improving on the last”的措辞存在张力。
  • 测试集的有限性:主要验证集中在数学问题,编程、逻辑推理等领域的泛化情况还没有系统评估。
  • 跨家族能否复现,眼下还没有答案。规模涌现效应目前只在一个模型家族里被看到,别的架构有没有同样的阈值结构,尚不清楚。

独立判断

真正让这项研究有分量的,并不是270亿参数的Qwen3.5比过去准了6.6个百分点;它把一种过去只停留在理论讨论里的可能性摆到了台面上,并且拿可重复的实验做了佐证。换成训练范式的视角看,自我改写在理论上比测试时扩展更省钱——收益能留下来,不必每做一次推理就多掏一份算力。可它要想真正替代训练,稳定性、可控性、安全边界这三关都得过,而这些关卡的难度,不比它声称要取代的那套范式本身低。

安全层面的不对称更让人警觉:证明能力,一篇论文就够了;配套的安全保障,却要整个领域一起使劲。自我改写能力的涌现阈值如今已被明确标定在270亿参数这个量级,安全社区要回答的问题已经变了——不再是“如果AI学会改写自身该怎么办”,而是“它已经能做到了,现在怎么办”。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Qwen3.5 27B自我改写权重:精度升至63.8%,安全警报升级

    美国伊利诺伊大学与卡内基梅隆大学联合研究显示,一个270亿参数的Qwen3.5模型能够通过自身推理直接改写内部权重,在未见过的490道数学题上精度从57.2%提升至63.8%,全程无需梯度计算或传统训练。这一被研究者称为"自我改写"的能力在小参数量模型上完全缺失,仅在27B规模时涌现,且同一套机制能将一份被人

    来源 AI 科技快讯
  2. 谷歌字节快手集体降价,AI视频进入分秒计价时代

    AI视频行业正在靠近一个类似DeepSeek的时刻,模型能力差距收窄,价格被打到分/秒,创作者开始批量调用。 11月初,谷歌把视频模型Gemini Omni 1.2 Flash转为正式版,不仅支持15秒视频生成和多轮对话式编辑等功能升级,还把价格打了下来,720p降到每秒0.07美元(约合0.47元/秒),比上一代低3

    来源 AI 行业观察
  3. Gemini 4 翻身背后:SemiAnalysis 填表道歉,Hassabis 接梗回应

    Google DeepMind通过组织调整、算力重新分配和训练体系升级,在短短七周内连续推出四款Gemini 4模型。依托大规模预训练、多线并行研发和真实工程场景的强化学习训练,Gemini在编程和Agent能力上实现突破,重返行业第一梯队,此前唱衰Google的SemiAnalysis也公开致歉。

    来源 华尔街见闻
  4. 秦淮数据联合腾讯等推出GW级AIDC柔性互联电气架构

    秦淮数据与清华大学领衔,联合北京大学、腾讯、南方电网数字电网研究院,共同发布“玄衡·GW级AIDC柔性互联电气架构”。面向极智运维新趋势,秦淮数据同步推出“黑灯数据中心”方案,推动运维模式实现从感知、分析到执行、决策的全景升级。

    来源 TechWeb
  5. METR时间视野图更新:编程任务表现突出,判断力任务仍偏弱

    METR发布其广受引用却常被误读的“时间视野图”更新版。新报告确认部分AI能力仍在指数级提升,模型能独立完成的任务时长持续延长;但报告同时揭示明显不对称——模型在编程任务上表现优异,在需要判断力的任务上却明显偏弱。这提醒业界,单一基准无法代表AI在开放式工作中的真实水平。

    来源 AI 科技快讯
  6. 英伟达投的AI Infra创企发模型工厂!支持数千卡集群训练万亿MoE

    智东西11月20日消息,昨日,美国AI Infra创企Prime Intellect宣布推出模型训练平台Model Factory,企业可根据平台支持的模型和算力配置,更新现成模型的全部参数,或从零训练新模型。该公司称,其底层强化学习框架prime-rl支持在千张以上GPU集群上训练万亿参数以上的MoE模型。

    来源 智东西
  7. 谷歌 Gemini 登陆 Mac:AI 可后台操控电脑,修图做 PPT 自动完成

    人工智能正从“动嘴皮子给建议”加速走向“动手帮你干活”。11月20日,谷歌正式为 macOS 版的 Gemini 应用推出了“电脑操控”(Computer Use)功能,让 AI 能够跨越桌面应用、本地文件以及网页环境,自主执行多步骤复杂任务。 后台独立运行不抢鼠标,支持实时预览与随时叫停 对于习惯

    来源 AI 开发者社区
  8. Muse上线Instagram代取关:互关焦虑碰上AI助手

    Meta的AI助手Muse在Instagram上线新功能,可自动追踪并取关那些没有回关你的用户。有人拍手称快,终于能一键清算单向关注;也有人担忧,社交关系被算法量化和工具化。这场围绕“互关”的小气战争,折射出社交媒体时代长期存在的关系焦虑,也暴露出AI代理人类社交行为的伦理边界。

    来源 AI 科技快讯
  9. WorkBuddy上线电脑操控:无接口软件也能点击输入,公测支持Win/macOS

    11月20日,WorkBuddy宣布上线电脑操控能力,可识别桌面应用界面并执行点击、输入和滚动,即使目标软件没有API、连接器或网页版,用户也能用自然语言指令完成查询、录入。该功能可用于老旧业务系统和未开放接口的软件,目前处于公测阶段,支持Windows和macOS,需升级至5.11.0及以上版本并授予相关系统权限。

    来源 凤凰科技
  10. 三星 One UI 9.5 天气应用测试 AI 提醒:出发前先看目的地天气

    手机天气应用向来是“你问我答”的工具——想看才点开,不看就安静躺在文件夹里。三星正打算改变这个被动姿态。据 SamMobile 11 月 19 日消息,One UI 9.5 首个 Beta 测试版中,天气应用正在酝酿一项 AI 升级:在你动身前往另一座城市之前,主动提醒先看看目的地的天气。 行程线索

    来源 AI 开发者社区
  11. 六款AI办公设备盘点:家庭办公室该添哪些硬件

    远程办公常态化让家庭办公室成为AI硬件的新战场。TechCrunch精选六款AI驱动设备——从智能记事本到AI网络摄像头,覆盖记录、沟通、照明与健康场景。本文梳理这些设备的核心功能与适用人群,并结合行业趋势分析AI办公硬件的演进逻辑:从单点工具走向场景协同,从效率提升转向体验重塑。对希望升级工作空间的用户而言

    来源 AI 科技快讯
  12. 腾讯阿里单季资本开支双双冲高:AI竞赛进入千亿元季度较量

    腾讯和阿里前后脚交出2026年三季度财报,把烧钱进一步摆在了明面上,AI基建竞赛,已经进入每个季度千亿元级别的较量。 腾讯单季资本开支814.33亿元,同比暴增527%;阿里单季资本开支504.77亿元,同样大涨60%。随之而来的是两家巨头自由现金流大幅转负,从净流入变成净流出数百亿元,如此巨额投入,在国内互联网历史上

    来源 AI 行业观察
  13. Gemini登陆Mac桌面:AI代理可代操作电脑,隐私风险几何?

    谷歌为Gemini推出面向Mac的重磅更新,首次将可执行任务的AI代理引入桌面端,能够整理文件、填写表单并完成多步骤工作流。这标志着Gemini从对话助手向“能动手”的操作型智能体进化,也意味着谷歌在桌面AI代理赛道正式与OpenAI、Anthropic和微软正面交锋。与此同时,桌面自动化带来的便利与隐私风险

    来源 AI 科技快讯
  14. 谷歌 Gemini 上线 Mac 电脑操控:后台干活,能修图做 PPT

    AI正从“给建议”转向“帮干活”。11月20日,谷歌为macOS版Gemini应用上线“电脑操控”功能,可跨桌面应用、本地文件和网页自主执行多步骤复杂任务。该功能后台独立运行,不抢占鼠标,并支持实时预览与随时叫停,缓解用户对AI接管电脑时“抢鼠标、乱点屏幕”的担忧。

    来源 AI 产业速递
  15. 三星 One UI 9.5 天气应用升级:出发前主动提醒目的地天气

    三星拟在 One UI 9.5 首个 Beta 中为天气应用加入 AI 升级,改变其被动查询模式。系统将结合日历、航班等信息识别用户出行计划,在动身前往另一座城市前,主动提醒查看目的地天气,让天气服务从“你问我答”转向预判需求、提前推送。

    来源 AI 产业速递
  16. 快手 CEO 程一笑:Kling 4.0 模型已经进入游戏和具身智能等场景

    IT之家 11 月 19 日消息,据《科创板日报》今天报道,快手 CEO 程一笑今日在业绩会中透露,Kling 4.0 模型上线后,可灵流水实现提升,当前收入增长由企业客户 API 调用和专业创作者付费订阅双轮驱动,用户规模与 ARPPU(每付费用户平均收益)均保持增长。 程一笑透露,Kling 4.0 目前已经进入影

    来源 AI 行业观察
  17. 半导体材料设备板块回暖:行业标准获批,国产设备多工序拓展

    近期,半导体材料设备板块震荡回升,产业端也迎来新进展。行业专属质量管理体系标准获批,前期扩产订单陆续转化为收入,国产设备新品加快导入客户产线,零部件企业持续拓展供货。分析人士认为,国内晶圆厂新建产能与存储厂工艺升级同步推进,有望带动设备采购及配套耗材需求增长。国内厂商正从供应单一机型向覆盖多道关键工序拓展,国产化有望加

    来源 AI 行业观察
  18. 豆包工作三月成绩单:日活超800万,企业ARR突破20亿元

    11月18日,豆包官方宣布旗下生产力AI产品“豆包工作”上线仅三个月,日活跃用户数(DAU)已突破800万,企业客户年度经常性收入(ARR)突破20亿元,展现出B端AI应用商业化的强劲增速。 自8月25日正式发布以来,豆包工作持续深耕专业办公场景。在产品功能层面,该平台于11月16日正式上线“工作台

    来源 AI 开发者社区
  19. 腾讯WorkBuddy升级任务管理:分组取代空间,单组最多关联16个文件夹

    腾讯WorkBuddy于11月19日发布桌面端5.11.3及以上版本的任务管理升级,原「任务」更名为「最近」、「空间」升级为「分组」,左侧栏由按时间排列的任务列表转为按工作事项整合的工作目录。 用户可通过新建任务输入框下方的分组选择器、侧栏「分组」标题右侧或任务条目右侧的入口创建分组,拖拽即可归类,

    来源 AI 开发者社区
  20. 谷歌AI模式上线临时线程:搜索不留痕,服务器端仍存约两个月

    11月18日, 谷歌 宣布在全球桌面端及移动端浏览器的 搜索AI模式 中正式推出“临时线程”(Temporary Threads)功能,允许用户发起私密、非个性化的即时搜索,使其查询记录不留存于个人历史且不干扰后续算法推荐。 该功能借鉴了独立应用 Gemini 的临时聊天机制,用户无需修改账户隐私设

    来源 AI 开发者社区
  21. Superhuman把Go助手推向全线产品

    Superhuman正在把旗下AI助手Go从单一功能升级为贯穿产品的核心代理,并让它在Docs与Mail中同时可用。这标志着邮件与文档类工具正从“点按钮调用AI”走向“常驻式智能代理”,也意味着生产力软件的竞争焦点,正从功能数量转向上下文与工作流的整合能力。

    来源 AI 科技快讯
  22. 李开复:企业 AI 转型只看“智能体数量”是荒谬笑话

    IT之家 11 月 19 日消息,据《中国企业家》杂志消息,零一万物 CEO、创新工场董事长李开复直言,企业 AI 转型如果只看“智能体数量”是个“荒谬的笑话”。 他认为,最危险的 AI 转型往往拥有一张漂亮的成绩单 —— 报告变厚了,智能体上线了,但 AI 到底为企业增加了多少收入、降低了多少成本,往往说不清楚。 同

    来源 AI 行业观察
  23. Prime Intellect推出Model Factory:支持数千GPU训练万亿参数MoE

    智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月20日消息,昨日,美国AI Infra创企Prime Intellect宣布推出模型训练平台Model Factory,企业可根据平台支持的模型和算力配置,更新现成模型的全部参数,或从零训练新模型。该公司称,其底层强化学习框架prime-rl支

    来源 腾讯网
  24. NVIDIA SEED:让Qwen预填充计算降25%,显存占用砍半

    NVIDIA 发布 SEED 技术,针对 Qwen3.8-Flash-Next 等混合架构模型进行推理优化。通过“浅层编码深层记忆”和“循环状态低秩分解”,SEED 在不改变原模型权重的前提下,将预填充阶段的计算量减少约 25%,单请求循环状态内存占用从 113MB 降至平均 43MB。实测显示,在 GB300 GPU

    来源 AI 应用前沿
向下滚动自动加载更多