Opus 5.5手写Transformer权重:13类任务全破百,无需训练

资讯 凤凰科技 作者:新智元 全文 3020 字 · 约 8 分钟读完 配图 10 张 分类OpusTransformer微软AI 编程

微软研究院联合多所高校提出“可解释权重空间编程”(iWSP)

所属频道 大厂动态Claude 与 AnthropicAI 编程与开发

Opus 5.5手写Transformer权重:13类任务全破百,无需训练(配图 1)

26次独立运行、13类复杂算法任务,一个全新的神经网络在隐藏测试集上准确率全部达到100%。

更让人意外的是,训练过程没喂海量数据,「反向传播」和「梯度下降」也完全没用上。

这个满分网络小巧至极、晶莹剔透,出自Claude Opus 5.5之手——代码一行一行直接「手写」出来的。

微软研究院与约翰斯·霍普金斯大学、哥伦比亚大学、纽约大学的团队近日联合发表了新研究「可解释权重空间编程(iWSP)」。

研究给出的结论是:前沿大语言模型已经能绕开传统优化器,依照固定的评测反馈精准构思计算逻辑,再以代码把算法直接写进Transformer的权重,手法如同外科医生。

Opus 5.5手写Transformer权重:13类任务全破百,无需训练(配图 2)

不用反向传播,AI直接当起「钟表匠」

深度学习常被戏称为「炼丹」。

那场面像一群盲人围着一台布满几亿个旋钮的巨大控制台,谁也看不清里面长什么样,只能凭机器偶尔发出的「报错声」,摸索着拧这个、转那个。

几万步迭代下来,机器居然真就正常运转了,某些任务甚至比人类自己还高,堪称「原地飞升」。

可你要是追问一句:哪个旋钮管逻辑?哪个旋钮管记忆?没人答得上来。

效果拔群,原理不详——旋钮拧对了是玄学,拧错了是事故,中间隔着一整片无人能解释的黑箱。

工程应用上,只要预测得准,这勉强可以接受。但在脑科学、物理学等极其严肃的科学探索中,这个缺陷太致命。

研究团队指出的核心痛点正在这里:

神经网络预测得很好,但很难被理解。在以『解释』为终极目标的科学领域,这是一个严重的问题。

拿神经科学来说,深度编码模型能非常准确地预测大脑对自然刺激的反应,可它们根本说不出,究竟是刺激中的「哪些特征」驱动了这些反应。

为了打破这个死局,微软团队提出了iWSP。他们的决定是:不许用反向传播,直接让AI去设定那些旋钮。

在iWSP的框架中,Opus 5.5化身为创世者。

传统的工作流被它完全颠覆:

纯粹的推理: 面对任务,系统不允许Opus进行任何基于梯度的训练。每次迭代,智能体只能看到一个单一的验证分数(Validation score)。

Opus 得靠自身已有的先验知识,先想出一套计算逻辑,再用 Python 代码把这套逻辑直接写出来,把特征显式地定义好,最终折算成一个个具体的权重数值。

闭环迭代: Opus评估这些特征,重复利用已知的正确模块,并根据那个单一的分数反馈,不断修改代码。

Opus 5.5手写Transformer权重:13类任务全破百,无需训练(配图 3)

平均每次跑39轮左右。

最终诞生的,是一个人类可以像阅读普通书籍一样,从头读到尾的「透明」Transformer。

它的每一个部分、每一行权重,都是AI「有意写就」。

反常识的地方在于,实验不光让AI造出了AI,还揭开了一个跟直觉拧着来的事实。

过去在AI圈子里,大家信的是「大力出奇迹」——千亿参数算起步,万亿参数才叫未来,神经网络嘛,越大越能干。

可这篇论文的数据把这个常识翻了个面。13类算法实验里,AI「手搓」出来的模型,在隐藏测试集上全部拿到100%的准确率。

但把Anthropic家族不同级别的模型摆在一起比,怪事就出来了:同样把算法题写到全对,越强的AI,写出的网络反而越小。

相对基础的Haiku 5.5手写网络,参数量中位数是100,000个;中等Sonnet 5.5需要的参数量中位数是41,600个。

当前最强的Claude模型Opus 5.5,手写网络的参数中位数只有166个!

Opus 5.5手写Transformer权重:13类任务全破百,无需训练(配图 4)

166个参数,放在这个动辄千亿、万亿参数的大模型时代,简直像一颗微尘。

差距为什么这么离谱?日志里记下了Opus的「心路历程」:它的策略是先想办法写对,再一轮一轮往小里删。

起初为了保证逻辑跑得通,Opus也会先写一个大概3400个参数的网络。在可见集拿到100%满分后,它开始疯狂精简代码,剔除冗余计算、压缩复杂矩阵,硬生生把平均3400个参数删到了200个上下。

Opus 5.5手写Transformer权重:13类任务全破百,无需训练(配图 5)

这情形跟学霸和学渣差不多。学渣(Haiku)不明白公式背后的道理,碰到不会做的题只能硬背,把各种可能情形全往脑子里装,于是一个「大本子」要装10万个参数。

而学霸(Opus)彻底看透了算法的本质,直接提炼出最核心的计算规则,所以只需要166个参数的「一张小纸条」。

这个发现极其震撼。它证明了:如果能找到真正正确的逻辑,解决复杂问题根本不需要堆砌。

Opus 5.5手写Transformer权重:13类任务全破百,无需训练(配图 6)

从数学题到人类大脑,让科学免于「被糊弄」

你可能会问:费这么大劲,让AI手搓几个做数学题的极小模型,到底有什么用?答案是:为了真正的科学发现。

科学界目前正面临一个尴尬的困境。拿神经科学来说,科学家为了搞懂人类大脑,会使用现成的深度学习黑盒模型来预测大脑的反应。

模型确实预测得挺准,可科学家反倒愣住了:拿一个自己没弄懂的黑盒,去猜另一个同样没弄懂的黑盒(大脑),就算猜中了又怎样?大脑究竟怎么运转,照样不清楚。

真正要的是「解释」,光能「预测」不够。微软团队这套iWSP方法恰恰在这里派上了用场。

它造出来的网络,内部逻辑摊在明面上。研究团队把这个方法直接用到了极难的大脑数据(Brain Encoding Models)上,语言fMRI(功能性磁共振成像)实验里,iWSP立了大功。

碰上复杂的大脑数据集,若沿用传统的反向传播训练,黑盒模型为了刷高分,会悄悄拿数据里的瑕疵做文章。

而科学家根本无从察觉。

可换成iWSP,Opus 4.7是把模型一步一步明明白白写出来的。科学家分析这个全透明模型时,一下就觉出不对:它精准地揪出了数据集里的一个混杂漏洞。

问题就这么被摆到了明面上。

Opus 5.5手写Transformer权重:13类任务全破百,无需训练(配图 7)

视觉皮层任务上也是这样。iWSP的预测效果压过了现有的可解释模型,还清楚呈现出大脑在早期视觉区和高级视觉区各自怎么做不同的计算。

Opus 5.5手写Transformer权重:13类任务全破百,无需训练(配图 8)

到了听觉ECoG(皮层脑电图)数据,它成体系地找出并定义了那些能预测神经活动的「可解释声学特征」。

Opus 5.5手写Transformer权重:13类任务全破百,无需训练(配图 9)

借助iWSP,AI真成了帮科学家找真理的显微镜。

AI自主进化的黎明时刻

读到这里,不少人怕是要喊出声:深度学习的「炼丹时代」到头了!往后训大模型不必再囤几万张英伟达H100,让超级AI直接写权重就完事!

且慢。

不过,iWSP在纯算法任务和脑响应预测里表现惊人,一进自然语言处理(NLP)任务就碰了壁。

像情感分类这类NLP任务,人类语言的特征本来就高度模糊、不成结构,幽默、反讽、多义词到处都是,压根没有一套绝对清晰的「数学公式」或「计算模块」能往里套。

这类任务上,Opus 5.5就显得吃力了。

为了把准确率撑到一定水平,它只能拼命加特征,模型参数量被撑到19万个左右。可参数都涨到19万了,情感分类也才72%;四个语言任务里,复述判断那一项连「全猜最常见答案」的基线都没过。

这就点出了iWSP眼下最要命的局限:它擅长的还是「重组已知的算法和计算模块」。

复杂表征的涌现,眼下仍旧得靠海量数据和梯度下降。

所以,绝不能据此断定通用大模型(AGI)已经不用训练了。

真正底层的基座模型,还是离不开算力的「暴力美学」。

话虽如此,微软这项研究仍是AI史上一座迷人的里程碑。

它向世界证明:在特定场景下,神经网络可以不走「盲目进化」那条路。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. GPT-6.2 Astra首发24小时口碑大翻车,硅谷大佬集体差评

    GPT-6.2刚发24小时口碑两极分化!API再砍20%登顶性价比之王,硅谷大佬却连夜写长信:写代码不如Opus 5.5 GPT-6.2 Astra和Sol,口碑好割裂,给我看不会了。 一边是榜单又杀疯了。 另一边,拿到早期测试权限的硅谷头部开发者们,却排着队交出了今年最严厉的差评。 HyperWrite联创Matt

    来源 AI 行业观察
  2. 港中深与微软研究院推ConvexLLM:语音免转写直连大模型

    在语音与多模态人工智能的演进中,如何让大模型更自然、更直接地“听懂”声音并完成复杂推理,一直是业界探索的核心方向。近期,香港中文大学(深圳)与微软研究院联合提出了名为 ConvexLLM 的多模态统一建模新架构,为语音与语言的融合提供了全新的技术思路。 核心创新:C-Gate 架构与“凸包映射”原理

    来源 AI 开发者社区
  3. 纳德拉解释微软6万人买断:AI改变工作本质,让员工自己选

    微软在2026年10月向6万名员工提出买断方案,CEO纳德拉首次公开解释这一决定。他指出,AI正在改变工作的本质,与其再次大规模裁员,不如让员工主动选择去留。这背后是微软对AI时代组织形态的深层思考,也折射出整个科技行业在AI浪潮下的转型阵痛。

    来源 AI 科技快讯
  4. Snapchat Lens创作接入Claude Code:说句话就能生成AR镜头?

    Snapchat宣布,Lens创作者现在可以用Claude Code、Cursor等AI编程助手来开发AR镜头——只需用自然语言描述想要的效果,AI助手便从头到尾完成搭建。这既是AR创作门槛的又一次下探,也标志着AI编程代理正从IDE走向平台级创作工具。本文梳理其机制、行业背景与潜在隐忧。

    来源 AI 科技快讯
  5. 港中深联合微软研究院提出 ConvexLLM:让声音跳过转写,直接调用大模型推理能力

    语音与多模态AI发展中,让大模型直接“听懂”声音并复杂推理是核心方向。香港中文大学(深圳)与微软研究院联合提出ConvexLLM多模态统一建模新架构,为语音与语言融合提供新思路。其核心创新为C-Gate架构与“凸包映射”原理,意在突破传统先将语音转写为文本、再交由大语言模型处理的链路。

    来源 AI 产业速递
  6. 微软英特尔扩大合作:EMIB封装首次用于自研芯片,Xeon供货锁定多年

    11月18日,微软与英特尔宣布扩大战略合作,签署长期协议共推Azure云与AI基础设施建设。微软成为首家采用英特尔代工EMIB先进封装技术用于自研芯片的企业,下一代Maia AI加速器和Cobalt CPU将采用该技术封装。协议同步锁定多年期Xeon处理器供货,含下一代"Diamond Rapids"。

    来源 华尔街见闻
  7. 2026软件行业K型分化:谁在涨,谁在消失

    2026 年初,全球软件行业出现了一个很容易被误读的现象。 一边是“软件要被 AI 吃掉了”的恐慌:企业可以用 AI 编程,自己搭建内部系统;AI Agent 正在替代传统 SaaS 的菜单、表单和席位;软件公司的估值大幅下跌。 另一边却是,部分软件公司正在创下新的增长记录。 10 月,路透社报道,美国软件与服务指数创

    来源 AI 行业观察
  8. 谷歌研究员发现Windows UAC绕过手法,微软称不算漏洞

    谷歌安全研究员詹姆斯·福肖披露,在 Windows 中发现一个“蠢得离谱”的 UAC 绕过手法,并调侃涉事组件像 AI 写出的代码;受影响组件、利用细节与版本范围暂未公开。此前他在 Administrator Protection 预览阶段曾找出 9 种绕过方法,均在正式版前修复。微软则认为这不算“漏洞”,争议出在漏洞

    来源 AI 产业速递
  9. AI攻击阴影下,纳德拉称关键设施“无法修补”

    微软CEO萨提亚·纳德拉在谈及AI网络攻击风险时表示,大量关键基础设施处于“不可修补”状态,并淡化了近期Outlook宕机的影响。他指出,AI既为安全防御带来新工具,也降低了攻击门槛。本文梳理其观点、关键基础设施补丁困境,以及AI时代安全治理的挑战。

    来源 AI 科技快讯
  10. 微软推Copilot Today:AI先看再备,邮件日历Teams汇总一屏

    IT之家 11 月 18 日消息,在昨日(11 月 17 日)召开的 Ignite 2026 大会上,微软推出全新 Copilot Today 功能,目标把 AI 助手从“你问、它答”推进到“它先看、再帮你准备”的工作模式。 该功能整合在 Microsoft Copilot 应用和 Outlook 中,可将邮件、日历、

    来源 AI 行业观察
  11. Lovable换赛道:从生成应用到经营AI生意

    瑞典AI初创公司Lovable曾凭“氛围编程”掀起应用开发热潮,用户只需用自然语言描述想法,就能生成可运行的网页应用。推出两年后,这家欧洲增长最快的创业公司之一正悄然转向:从帮人做出产品,转向帮人经营生意。本文解析Lovable的战略转型,以及氛围编程从“玩具”走向“生产工具”背后的机遇与隐忧。

    来源 AI 科技快讯
  12. 纳德拉谈微软6万人自愿离职:AI改写开发方式,岗位结构还会变

    11 月 16 日,微软 CEO 纳德拉做客《The Pragmatic Engineer》播客,被问及约 6 万人的自愿离职计划是否意味着借 AI 提效后再裁员。他不置可否,只坦承 AI 正在改写软件开发,工作模式与团队结构都会随之变化:“一切都会保持原样?我做不到。” 不想把人困在没转型的团队里

    来源 AI 开发者社区
  13. 纳德拉:AI代购兴起,恐改写互联网平台盈利模式?

    科技媒体 TechCrunch 昨日(11 月 18 日)发布博文,报道称在《纽约时报》DealBook 峰会上,微软首席执行官萨蒂亚 · 纳德拉(Satya Nadella)表示,能够替用户浏览商品、完成购买的 AI 智能体,可能重塑互联网的商业格局,让依赖用户访问和广告收入的平台面临重新洗牌。

    来源 IT之家
  14. 纳德拉:AI代劳网购或洗牌互联网,拒绝接入平台恐失机会?

    IT之家 11 月 19 日消息,科技媒体 TechCrunch 昨日(11 月 18 日)发布博文,报道称在《纽约时报》DealBook 峰会上,微软首席执行官萨蒂亚 · 纳德拉(Satya Nadella)表示,能够替用户浏览商品、完成购买的 AI 智能体,可能重塑互联网的商业格局,让依赖用户访问和广告收入的平台面

    来源 AI 行业观察
  15. DeepSeek刚限完流,就去给开发者免单了

    简单来说,开发者通过DeepSeek模型执行联网搜索任务,不再需要为搜索和网页抓取额外支付按次调用费用,但模型本身消耗的Token仍然正常计费。

    来源 凤凰科技
  16. Office 主客易位:微软把 Word、Excel 塞进 Copilot,AI 当门面

    昨日的 Ignite 2026 大会上,微软官宣 Office 翻开“新篇章”:办公软件不再只是文档、表格与演示工具,而将转型成 AI 智能体协同干活的“智能办公系统”。此前 Copilot 是被塞进各应用当助手,如今整个颠倒:以新款 Copilot 应用为核心,集成完整的 Word、Excel 和

    来源 AI 开发者社区
  17. 纳德拉预言:AI智能体将重塑互联网经济格局

    微软CEO萨提亚·纳德拉在最新访谈中提出,AI智能体将不再是简单的聊天工具,而是能替用户完成搜索、比价、下单的“数字代理人”。这一转变可能从根本上动摇以广告和流量为核心的互联网商业模式,迫使亚马逊、谷歌等巨头重新思考获客与竞争的方式,内容创作者与广告主的利益分配也将随之重写。

    来源 AI 行业观察
  18. 微软Ignite 2026:Office被装进Copilot,Word、Excel成了配角

    微软在 Ignite 2026 宣布 Office 开启新篇章:不再只是文档、表格与演示工具,而转型为 AI 智能体协同的“智能办公系统”。Copilot 从各应用中的助手变为核心,新款 Copilot 应用集成完整 Word、Excel、PowerPoint 协作体验;用户只需自然语言提出需求,文档即可自动生成。

    来源 AI 产业速递
  19. 纳德拉:大量关键设施"不可修补",AI正改写攻防两端

    微软CEO萨提亚·纳德拉在谈及AI网络攻击风险时表示,大量关键基础设施处于“不可修补”状态,并淡化了近期Outlook宕机的影响。他指出,AI既为安全防御带来新工具,也降低了攻击门槛。本文梳理其观点、关键基础设施补丁困境,以及AI时代安全治理的挑战。

    来源 AI 行业观察
向下滚动自动加载更多