不用训练,Opus 5.5直接手写Transformer权重,13类任务全拿100%

资讯 AI 行业观察 作者:新智元 全文 3129 字 · 约 8 分钟读完 配图 10 张 分类OpusClaudeTransformer微软

在13类复杂的算法任务、26次独立运行中,一个全新的神经网络在隐藏测试集上全部达到了100%的准确率。 更不可思议的是,整个过程没有喂给它海量数据,甚至完全没有使用「反向传播」和「梯度下降」。 这个晶莹剔透、小巧至极的满分神经网络,是Claude Opus 5.5,用代码一行一行直接「手写」出来的。 近日,微软研究院联

所属频道 大厂动态Claude 与 Anthropic

在13类复杂的算法任务、26次独立运行中,一个全新的神经网络在隐藏测试集上全部达到了100%的准确率。

更不可思议的是,整个过程没有喂给它海量数据,甚至完全没有使用「反向传播」和「梯度下降」。

这个晶莹剔透、小巧至极的满分神经网络,是Claude Opus 5.5,用代码一行一行直接「手写」出来的。

近日,微软研究院联合约翰斯·霍普金斯大学、哥伦比亚大学和纽约大学的团队,发表了新研究「可解释权重空间编程(iWSP)」。

这项研究证明:前沿大语言模型已经可以直接越过传统的优化器,依据固定的评测反馈,像外科医生一样精准构思计算逻辑,并用代码将算法直接写进Transformer的权重里。

不用训练,Opus 5.5直接手写Transformer权重,13类任务全拿100%(配图 1)

不用反向传播,AI直接当起「钟表匠」

深度学习常被戏称为「炼丹」。

整个过程,就像一群盲人围着一台布满几亿个旋钮的巨大控制台,谁也看不见里面长什么样,只能凭机器偶尔发出的「报错声」,摸索着拧这个、转那个。

几万步迭代下来,机器居然真就正常运转了,某些任务甚至比人类自己还高,堪称「原地飞升」。

可你要是追问一句:哪个旋钮管逻辑?哪个旋钮管记忆?没人答得上来。

总之,效果拔群,原理不详——旋钮拧对了是玄学,拧错了是事故,中间隔着一整片无人能解释的黑箱。

在工程应用上,只要预测得准,这勉强可以接受。但在脑科学、物理学等极其严肃的科学探索中,这个缺陷太致命。

正如研究团队所指出的核心痛点:

神经网络预测得很好,但很难被理解。在以『解释』为终极目标的科学领域,这是一个严重的问题。

以神经科学为例,深度编码模型能够非常准确地预测大脑对自然刺激的反应,但它们却根本说不出,究竟是刺激中的「哪些特征」驱动了这些反应。

为了打破这个死局,微软团队提出了iWSP。他们决定:不许用反向传播,直接让AI去设定那些旋钮。

在iWSP的框架中,Opus 5.5化身为创世者。

它完全颠覆了传统的工作流:

纯粹的推理:面对任务,系统不允许Opus进行任何基于梯度的训练。每次迭代,智能体只能看到一个单一的验证分数(Validation score)。

手写权重:Opus必须调用它已有的先验知识,构思一套计算逻辑。然后,它直接编写Python代码,显式地写出特征,将这套逻辑转化为具体的权重数字。

闭环迭代:Opus评估这些特征,重复利用已知的正确模块,并根据那个单一的分数反馈,不断修改代码。

不用训练,Opus 5.5直接手写Transformer权重,13类任务全拿100%(配图 2)

平均每次跑39轮左右。

最终诞生的,是一个人类可以像阅读普通书籍一样,从头读到尾的「透明」Transformer。

它的每一个部分、每一行权重,都是AI「有意写就」。

反常识的真相

这项实验最让人拍案叫绝的,不仅是它成功让AI造出了AI,更在于它揭示了一个违背直觉的真相。

在传统的AI语境里,我们笃信「大力出奇迹」。千亿参数只是起步,万亿参数才是未来。

大家都以为,神经网络越大越能干。

但这篇论文的数据,直接把这个常识反了过来。

在13类算法实验中,所有由AI「手搓」出来的模型,最终都在隐藏测试集上拿到了100%的准确率。

但当我们对比Anthropic家族不同级别的模型时,神奇的现象出现了:同样把算法题写到全对,越强的AI,写出的网络越小。

相对基础的Haiku 5.5手写的网络,参数量中位数高达100,000个。

中等Sonnet 5.5需要的参数量中位数是41,600个。

当前最强的Claude 模型Opus 5.5,它手写的网络参数中位数,只有极其夸张的166个!

不用训练,Opus 5.5直接手写Transformer权重,13类任务全拿100%(配图 3)

建议大家把「166个参数」打在公屏上。在这个动辄千亿、万亿参数的大模型时代,166个参数简直就像一颗微尘。

为什么会有这么离谱的差距?

日志记录了Opus的「心路历程」:Opus的策略是,先想办法写对,再一轮一轮地往小里删。

一开始,Opus为了保证逻辑能跑通,也会先写一个大概有3400个参数的网络。

在可见集拿到100%满分后,它开始疯狂精简代码。它把冗余的计算剔除,把复杂的矩阵压缩,硬生生把平均3400个参数,删到了200个上下。

不用训练,Opus 5.5直接手写Transformer权重,13类任务全拿100%(配图 4)

这就像是学霸和学渣的区别。

学渣(Haiku)不懂公式背后的原理,遇到不会的题就靠死记硬背,把所有可能的情况都塞进脑子,所以需要10万个参数的「大笔记本」。

而学霸(Opus)彻底看透了算法的本质,直接提炼出了最核心的计算规则,所以只需要166个参数的「一张小纸条」。

这个发现极其震撼。它证明了:如果能找到真正正确的逻辑,解决复杂问题根本不需要堆砌。

不用训练,Opus 5.5直接手写Transformer权重,13类任务全拿100%(配图 5)

从数学题到人类大脑,让科学免于「被糊弄」

你可能会问:费这么大劲,让AI手搓几个做数学题的极小模型,到底有什么用?

答案是:为了真正的科学发现。

科学界目前正面临一个尴尬的困境。拿神经科学来说,科学家为了搞懂人类大脑,会使用现成的深度学习黑盒模型来预测大脑的反应。

确实,模型预测得很准,但科学家傻眼了:我用一个搞不懂的黑盒,去预测另一个搞不懂的黑盒(大脑)。预测对了有什么用?我还是不知道大脑到底是怎么工作的!

我们需要的是「解释」,而不仅仅是「预测」。

微软团队这套iWSP方法的价值,在这里大发神威。

因为它造出的网络,内部逻辑是透明的。研究团队将这个方法,直接应用到了极高难度的大脑数据(Brain Encoding Models)中:在语言fMRI(功能性磁共振成像)的实验里,iWSP立下了大功。

面对复杂的大脑数据集,如果用传统的反向传播训练,黑盒模型会为了拿到高分,偷偷利用数据里的瑕疵来作弊。

科学家根本察觉不到。

但在iWSP中,Opus 4.7把模型一步步明确地写了出来。在分析这个全透明模型时,科学家瞬间发现了不对劲:这个模型精准地揪出了数据集里的一个混杂漏洞!

它直接把问题摆在了明面上。

不用训练,Opus 5.5直接手写Transformer权重,13类任务全拿100%(配图 6)

此外,在视觉皮层任务中,iWSP不仅预测效果超过了现有的可解释模型,还清晰地展示了在早期视觉和高级视觉区域,大脑如何进行不同计算。

不用训练,Opus 5.5直接手写Transformer权重,13类任务全拿100%(配图 7)

在听觉ECoG(皮层脑电图)数据上,它系统性地发现并定义了那些能够预测神经活动的「可解释声学特征」。

不用训练,Opus 5.5直接手写Transformer权重,13类任务全拿100%(配图 8)

通过iWSP,AI真正变成了帮助科学家发现真理的显微镜。

AI自主进化的黎明时刻

读到这里,许多人可能会激动地大喊:深度学习的「炼丹时代」结束了!以后训练大模型再也不需要买几万张英伟达H100显卡了,直接让超级AI写权重就行了!

且慢。

尽管iWSP在纯算法任务和脑响应预测中非同凡响,但在自然语言处理(NLP)任务中,它却撞上了南墙。

在情感分类等NLP任务中,人类的语言特征高度模糊、非结构化,充满了幽默、反讽、多义词,根本没有绝对清晰的「数学公式」或「计算模块」可以套用。

面对这种任务,Opus 5.5显得颇为吃力。

为了达到一定的准确率,它不得不拼命增加特征,导致模型参数量被迫膨胀到了19万个左右。更残酷的是,参数涨到19万,情感分类也只到72%;四个语言任务里,复述判断那个连「全猜最常见答案」的基线都没过。

这指出了当前iWSP方法的核心局限性:它目前主要擅长「重组已知的算法和计算模块」。

复杂表征的涌现,目前依然离不开海量数据和梯度下降。

因此,绝对不能据此认定,通用大模型(AGI)已经不需要训练了。

真正底层的基座模型,依然需要算力的「暴力美学」。

尽管如此,微软的这项研究,依然是AI史上一个迷人的里程碑。

它向世界证明:在特定的场景下,神经网络可以摆脱「盲目进化」。

参考资料:

https://arxiv.org/abs/2611.18114

https://github.com/csinva/weight-space-programming-autoresearch

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Transformer模型可按算力伸缩:阿姆斯特丹大学提出免重训弹性剪枝

    你有没有遇到过这样的场景:公司上线了一个AI模型,平时流量不大的时候用得挺顺畅,可一到促销季或者突发热点事件,请求量瞬间暴涨,服务器直接扛不住。这时候工程师们往往只有两个选择:要么提前备好一个超大杯的模型应对峰值,平时大部分算力都在浪费;要么准备一个省着用的小模型,结果高峰期一来,用户体验直接崩掉。这...

    来源 腾讯网
  2. GPT-6.2 Astra首发24小时口碑大翻车,硅谷大佬集体差评

    GPT-6.2刚发24小时口碑两极分化!API再砍20%登顶性价比之王,硅谷大佬却连夜写长信:写代码不如Opus 5.5 GPT-6.2 Astra和Sol,口碑好割裂,给我看不会了。 一边是榜单又杀疯了。 另一边,拿到早期测试权限的硅谷头部开发者们,却排着队交出了今年最严厉的差评。 HyperWrite联创Matt

    来源 AI 行业观察
  3. 谷歌提出SIM记忆机制:让AI智能体跨模型持续自我改进

    模型一换,精心优化的 agent harness 可能立刻“水土不服”。专为 Claude 演化的 harness 甚至可能给 Gemini 带来“负收益”。因此,模型迁移后需要重新评估继承的修改,判断哪些仍然有效,哪些需要修订。 harness 管理 agent 的上下文、工具和执行流程。递归自我改进(RSI)虽会依

    来源 AI 行业观察
  4. Snapchat Easy Lens CLI上线:AI助手可建AR滤镜

    11月18日(周三), Snapchat 宣布推出 Easy Lens CLI ,允许AR滤镜创作者直接调用 Claude Code 、Cursor和Codex等AI编码助手构建核心特效Lens,旨在降低AR内容创作门槛并将平台融入开发者现有工作流。 该工具基于网页与移动端单提示词生成滤镜的 Eas

    来源 AI 开发者社区
  5. Snapchat发布Easy Lens CLI,支持Claude Code与Cursor等AI助手构建AR滤镜

    11月18日,Snapchat推出Easy Lens CLI,允许AR滤镜创作者直接调用Claude Code、Cursor、Codex等AI编码助手构建核心Lens,降低创作门槛并融入开发者工作流。该工具由Easy Lens演进而来,支持Mac、Windows、Linux;创作者用自然语言描述需求,AI即可完成全链路

    来源 AI 产业速递
  6. Snapchat Lens创作接入Claude Code:说句话就能生成AR镜头?

    Snapchat宣布,Lens创作者现在可以用Claude Code、Cursor等AI编程助手来开发AR镜头——只需用自然语言描述想要的效果,AI助手便从头到尾完成搭建。这既是AR创作门槛的又一次下探,也标志着AI编程代理正从IDE走向平台级创作工具。本文梳理其机制、行业背景与潜在隐忧。

    来源 AI 科技快讯
  7. 纳德拉解释微软6万人买断:AI改变工作本质,让员工自己选

    微软在2026年10月向6万名员工提出买断方案,CEO纳德拉首次公开解释这一决定。他指出,AI正在改变工作的本质,与其再次大规模裁员,不如让员工主动选择去留。这背后是微软对AI时代组织形态的深层思考,也折射出整个科技行业在AI浪潮下的转型阵痛。

    来源 AI 科技快讯
  8. 微软纳德拉示警:比“千年虫”更棘手,AI 正让网络变得越来越脆弱

    IT之家 11 月 19 日消息,美国当地时间 11 月 18 日在《纽约时报》DealBook 峰会上,微软首席执行官萨提亚 · 纳德拉(Satya Nadella)表示,近期频发的网络中断可能并非偶发事件,随着人工智能系统能力增强,全球数字基础设施的稳定性正面临更复杂的考验。 针对近期接连出现的网络中断究竟是“反常

    来源 AI 行业观察
  9. 字节拟追加5亿美元微软云服务合同

    据市场消息,字节跳动正在与微软进行谈判,计划在现有合同基础上,追加约5亿美元微软云服务支出,主要用于通过微软Azure使用OpenAI模型,目前交易尚未完成。微软拥有向客户转售OpenAI技术的权利,微软方面认为字节跳动主要将OpenAI模型用于包括软件开发在内的任务。不包括该笔在谈合同,据估算,字节跳动每年在微软AI

    来源 AI 行业观察
  10. AI攻击阴影下,纳德拉称关键设施“无法修补”

    微软CEO萨提亚·纳德拉在谈及AI网络攻击风险时表示,大量关键基础设施处于“不可修补”状态,并淡化了近期Outlook宕机的影响。他指出,AI既为安全防御带来新工具,也降低了攻击门槛。本文梳理其观点、关键基础设施补丁困境,以及AI时代安全治理的挑战。

    来源 AI 科技快讯
  11. 微软Azure部署环境2027年停用:无接替产品,Dev Box延至2028年

    微软将逐步停用其 Azure 开发环境服务的两个组成部分。Azure 部署环境将于 2027 年 2 月 22 日停用,而且不会有后续产品。Microsoft Dev Box 则将于 2028 年 9 月 18 日停用,取而代之的是 Windows 365——微软已明确表示,后者并非等效的替代方案。 部署环境停用指南中

    来源 AI 行业观察
  12. 微软英特尔扩大合作:EMIB封装首次用于自研芯片,Xeon供货锁定多年

    11月18日,微软与英特尔宣布扩大战略合作,签署长期协议共推Azure云与AI基础设施建设。微软成为首家采用英特尔代工EMIB先进封装技术用于自研芯片的企业,下一代Maia AI加速器和Cobalt CPU将采用该技术封装。协议同步锁定多年期Xeon处理器供货,含下一代"Diamond Rapids"。

    来源 华尔街见闻
  13. Anthropic IPO股权曝光:亚马逊持股14.7%,谷歌13.7%

    11月17日(周二), Anthropic 披露了与其核心云服务商 亚马逊 和 谷歌 达成的最大投资协议细节,明确在 首次公开募股 后,亚马逊与谷歌将分别持有其14.7%和13.7%的股份,合计接近30%。 亚马逊在2023年至2024年(Claude Code席卷企业界前、Anthropic尚处O

    来源 AI 开发者社区
  14. 港中深与微软研究院推ConvexLLM:语音免转写直连大模型

    在语音与多模态人工智能的演进中,如何让大模型更自然、更直接地“听懂”声音并完成复杂推理,一直是业界探索的核心方向。近期,香港中文大学(深圳)与微软研究院联合提出了名为 ConvexLLM 的多模态统一建模新架构,为语音与语言的融合提供了全新的技术思路。 核心创新:C-Gate 架构与“凸包映射”原理

    来源 AI 开发者社区
  15. 谷歌研究员发现Windows UAC绕过手法,微软称不算漏洞

    谷歌安全研究员詹姆斯·福肖披露,在 Windows 中发现一个“蠢得离谱”的 UAC 绕过手法,并调侃涉事组件像 AI 写出的代码;受影响组件、利用细节与版本范围暂未公开。此前他在 Administrator Protection 预览阶段曾找出 9 种绕过方法,均在正式版前修复。微软则认为这不算“漏洞”,争议出在漏洞

    来源 AI 产业速递
  16. 上市前一天,80余位学界与AI大佬联合声明:“Anthropic不是一家安全的AI公司”

    【TechWeb】11月18日,Anthropic正式确定IPO发行价为每股83美元,高于此前70-78美元的指导区间;公司连同部分股东共发行约9.8亿股A类普通股,公开发行筹资约813亿美元,叠加向谷歌、英伟达、微软等战略投资者的260亿美元私募配售,合计融资规模突破944亿美元,超越SpaceX今年6月创下的纪录,

    来源 AI 行业观察
  17. 纳德拉谈微软6万人自愿离职:AI改写开发方式,岗位结构还会变

    11 月 16 日,微软 CEO 纳德拉做客《The Pragmatic Engineer》播客,被问及约 6 万人的自愿离职计划是否意味着借 AI 提效后再裁员。他不置可否,只坦承 AI 正在改写软件开发,工作模式与团队结构都会随之变化:“一切都会保持原样?我做不到。” 不想把人困在没转型的团队里

    来源 AI 开发者社区
  18. 内部矛盾激化!英伟达工程师放话:黄仁勋不复职就集体辞职

    【TechWeb】黄仁勋辞职一周后,英伟达内部的“人心危机”正持续发酵。临时CEO科莱特·克雷斯面临的,是一场几乎公开化的员工不满——要求创始人回归的"Stand with Jensen"请愿已收集近20万签名,其中自称英伟达在职员工的签名超过1万人,而公司员工总数约4.2万人;部分工程师已明确放话,若黄仁勋不能复职将

    来源 AI 行业观察
向下滚动自动加载更多