TML开源新模型,循环Transformer架构,笔记本就能跑

资讯 AI 行业观察 全文 2214 字 · 约 6 分钟读完 配图 9 张 分类Transformer开源

TML开源新模型,循环Transformer架构,笔记本就能跑

所属频道 开源生态
TML开源新模型,循环Transformer架构,笔记本就能跑(配图 1)
编辑|Panda

昨晚,黎曼猜想的一份 AI 证明声明,把大模型的推理能力再次推到聚光灯下。Anthropic 数学家 Levent Alpöge 宣称,自己与 Claude 合作找到了证明,并公布了形式化材料。虽然这项声明仍待独立核验,但已经让人们重新追问:AI 究竟能完成多复杂的工作?


而刚刚,Thinking Machines Lab(TML)发布并开放了 Inkling 2 Mini 的权重。


TML开源新模型,循环Transformer架构,笔记本就能跑(配图 2)


这是一个总参数 26B 的多模态模型,采用循环 Transformer(looped transformer)架构,支持文本和图像输入,最大上下文窗口为 100 万 token。权重已按 Apache 2.0 许可发布,开发者可以下载部署,也能通过 Tinker 进行推理和微调。


  • 模型卡与权重:https://huggingface.co/thinkingmachines/Inkling-2-Mini

  • 官方博客:https://thinkingmachines.ai/news/inkling-2-mini/


官方宣称能在笔记本上运行,并且能胜任智能体工作。看起来,它要展示的是个人电脑上的模型能做到哪一步。


在 TML 公布的演示中,研究人员带着一台 MacBook Pro 登上飞机,断开网络,让 Inkling 2 Mini 在几分钟内写出了一个可玩的飞行模拟器。演示使用的是配备 48GB 内存的 M5 Pro 机型,推理在本地完成。


▶ 本文含视频,请点上方「查看原文」在来源页观看。


他们还构建了一个由 Inkling 2 Mini 搭建的微型像素小镇 Thinkyville。其中,同一模型在一台离线 MacBook 上驱动全部 20 位村民。他们规划一天的生活、闲聊八卦、举办烘焙比赛,还会回复你留在他们门上的便条。


▶ 本文含视频,请点上方「查看原文」在来源页观看。


模型发布后,社区反映非常热烈。有人将其接入了 DeepSeek Harness,跑出了飞快的速度。


TML开源新模型,循环Transformer架构,笔记本就能跑(配图 3)


还有人让它玩通了一个电子游戏,并且发现它还能反复游玩并优化策略,并学会速通。


TML开源新模型,循环Transformer架构,笔记本就能跑(配图 4)


生成动画 MV 也没有问题:


TML开源新模型,循环Transformer架构,笔记本就能跑(配图 5)


让同一组权重,多算几轮


Inkling 2 Mini 的技术看点,在于它采用了循环 Transformer 架构。


普通 Transformer 在生成每个 token 时,会让信息依次经过一组固定的网络层。Inkling 2 Mini 则把中间一段网络重复利用:全模型共 24 层,最前和最后的 6 层各运行一次,中间 12 层运行三次。后续轮次还会读取上一轮传来的信息。


TML开源新模型,循环Transformer架构,笔记本就能跑(配图 6)


因此,模型只需存储 24 层权重,就能为每个 token 完成 48 次层计算。增加的内部计算,为需要连续推导的任务提供了更多处理空间,同时控制了权重体积。


它还采用了混合专家(MoE)架构,每个 token 只调用部分专家参与计算。模型的激活参数约为 3.4B;将循环中的重复计算计入后,有效参数激活量约为 5.4B。


TML开源新模型,循环Transformer架构,笔记本就能跑(配图 7)

https://vllm-project.github.io/2026/11/20/inkling2-mini.html


编程表现


从 TML 公布的评测看,Inkling 2 Mini 的长处集中在智能体编程、搜索和工具使用上。


在 DeepSWE v1.1 上,它的任务解决率为 48.2%,对比的 Qwen3.8-27B 为 42.2%;在 SWE-bench Verified 上,两者分别为 79.2% 和 77.8%。


TML开源新模型,循环Transformer架构,笔记本就能跑(配图 8)


要把这样的模型放进笔记本,权重的存储方式也很关键。Inkling 2 Mini 的专家层主要使用 NVFP4 低精度格式,最后 4 层采用 MXFP8。它在训练中就使用了相应精度,并以同样的精度部署,减少了交付时再次转换精度的环节。


发布的检查点约为 20GB。官方支持在至少配备 32GB 内存的 Apple 芯片设备上运行,其他 GPU 平台建议至少提供 32GB 显存;本地推理已有 Ollama、vLLM、SGLang 等工具支持。


更短的思维链


循环计算还有一层值得关注的含义:模型可以在输出文字之前,完成更多内部处理。于是,研究者需要继续检验,写出来的思维链能在多大程度上帮助人们理解和监督模型。


为此,TML 同步开放了 TML-d24-varloop-research。与固定循环三次的 Inkling 2 Mini 不同,这个研究版本允许在推理时调整循环次数,方便研究者在同一组权重上比较增加计算的影响。官方明确将它定位为研究模型,实际产品应用仍推荐使用 Inkling 2 Mini。


链接:https://thinkingmachines.ai/model-card/tml-d24-varloop-research/


Inkling 2 Mini 也有明确的能力边界。按照 TML 的说明,它在多轮对话和多重约束指令上仍有短板,复杂推理表现与更大模型存在差距;增加循环次数,也不会直接扩大权重中储存的事实知识。


这次发布值得关注的地方,是在有限的权重体积里增加推理计算,并把模型交给开发者在自己的设备上运行。对于希望搭建本地编程助手或长期运行智能体的人,Inkling 2 Mini 算是一个值得一试的新选择。


更多细节请访问官方博客与仓库。


图片


本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 张博开源Linger:零token费本地跑125B模型,12GB显卡够用

    11月19日,前DeepSeek-VL项目负责人张博在X宣布开源个人Agent Linger,开发主体是张博创办的SIMPLEX AI TECHNOLOGIES PTE. LTD.(以下简称“Simplex AI”),代码已上传GitHub。按项目文档,Linger读取本地邮件、日历和文件,操作用户已登录的浏览器;连接

    来源 腾讯网
  2. 龙芯中科共建开放原子龙架构社区:自主指令集首个综合开源社区成立

    IT之家 11 月 20 日消息,2026 开放原子开发者大会今日在郑州举办,在大会开幕式上,开放原子龙架构社区正式成立。 该社区由龙芯中科与开放原子开源基金会联合共建,是我国在自主指令集领域发起的首个综合性开源社区。 开放原子龙架构社区由开放原子开源基金会筹建、孵化、运营,将重点布局 IP 核、二进制翻译、基础操作系

    来源 AI 行业观察
  3. 开源鸿蒙代码超1.5亿行,兼容性测评产品破2600款

    IT之家 11 月 21 日消息,2026 开放原子开发者大会开源鸿蒙技术论坛昨日(20 日)在郑州国际文化交流中心举行。 据介绍,“Powered by OpenHarmony”的生态产品日益丰富,已在金融、交通、能源、电力、水利、矿山、政务、教育等行业规模化落地。 开源鸿蒙项目群工作委员会执行主席、华为终端 BG

    来源 AI 行业观察
  4. DeepSeek-VL前负责人张博创业:高瓴投600万美元,押注低门槛大模型

    高瓴投了600万美元。一位DeepSeek早期核心成员,创业了。11月19日,DeepSeek-VL前项目负责人张博(Tony Zhang)宣布,其创办的AI公司Simplex AI正式开源个人智能体产品Linger。这款产品能在用户自己的电脑上运行,替人操作软件、处理邮件,甚至让多个AI助手共同完成任务。为了降低普通

    来源 腾讯网
  5. 亚马逊封堵AI购物助手,马斯克放话:也许该做个对手

    AI刚学会替你干活,亚马逊、摩根大通、嘉信理财就开始堵门了! 10月18日,@trikcode在X上列出了一份「AI碰壁清单」,点名达美航空、摩根大通、嘉信理财、Yelp和亚马逊。 他吐槽: 那些本该替我们搞定一切的AI智能体,开始被互联网挡在门外。 人愿意买,AI愿意跑腿,但最后一公里却卡在了平台不肯放行上! 而亚马

    来源 AI 行业观察
  6. 可灵Kling Image 4.0发布:8K原生分辨率,单图支持2000字

    过去几年,AI 生图模型在真实感、分辨率和光影表现上不断刷新人们的认知。但当这些图片真正被用于海报、广告这些商业场景时仍会面临文字能否准确呈现、局部修改是否能保留原有设计等问题。 这些看似不起眼的要求,至今仍是图像模型的难题。(雷峰网) 今年 3 月,微软研究院发布了一项名为 BizGenEval 的商业视觉生成评测,

    来源 AI 行业观察
  7. Claude称证出黎曼猜想:25万页证明未公开,陶哲轩回应待验证

    智东西11月21日报道,昨夜,Anthropic数学家莱文特·阿尔珀格(Levent Alpöge)在个人网站上发布声明,宣称自己与Claude合作,找到了黎曼猜想及其更强版本——广义黎曼猜想(GRH)的证明方法。 ▲阿尔珀格发布的声明(图源:其个人主页) 这项困扰数学界167年的难题,可能迎来重大突破。 2006年菲

    来源 AI 行业观察
  8. Metric AI开源亚美尼亚语模型Ayb 0.5:90亿参数跻身前三

    Metric AI团队推出了Ayb 0.5系列开源语言模型,包含0.8B、4B和9B三个版本。该系列基于Qwen3.5架构,针对亚美尼亚语进行了深度适配,在ArmBench基准测试中表现优异,甚至超越了部分参数量更大的模型。Ayb 0.5不仅支持文本生成和指令遵循,还保留了完整的视觉语言能力,能够用亚美尼亚语描述图片。

    来源 AI 应用前沿
  9. OhanASR开源:亚美尼亚语专用ASR模型,流式版同步发布

    Metric-AI 团队发布了首个开源亚美尼亚语自动语音识别模型 OhanASR。该系列包含针对录音优化的 v0.1 版本和用于实时场景的 Streaming 版本,在 ArmBench-ASR 基准测试中表现优异。文章详细解读了模型性能数据、适用场景及当前存在的局限性,为开发者提供技术参考。

    来源 AI 应用前沿
  10. 腾讯混元Hy4开源:7700亿参数,四大社区同步上线

    腾讯混元11月20日正式开源Hy4模型,同步发布披露安全评估与已知风险的System Card。Hy4为混合专家架构多模态模型,总参数量7700亿、单Token激活约490亿参数,支持最长100万Token上下文。随着Hy4开放,Hy系列大语言模型均已开源。

    来源 凤凰科技
  11. 腾讯混元Hy4正式开源:模型安全评估卡片同步发布

    今天,Hy4正式开源,可在 GitHub、 Hugging Face、ModelScope 和 AtomGit 社区下载部署。 延续负责任发布与开源的理念,我们也发布了Hy4 模型安全评估卡片(System Card),带来更全面的安全评估报告。 混元 LLM 模型已全部开源,包括Hy3 prev

    来源 AI 开发者社区
  12. ARTEX开源:AI Agent驱动渗透测试,Planner与Worker如何分工

    ARTEX 是一个基于 LLM Agent 的自动化渗透测试平台,采用 Go 和 Next.js 构建。它通过 Planner 和 Worker 协作,自动梳理资产、生成攻击向量并记录流量。本文介绍其核心架构、部署流程及在授权测试中的实际应用,强调人工复核的重要性。

    来源 AI 应用前沿
  13. 腾讯混元大模型全量开源:Hy4 正式开放权重,支持百万上下文

    11月20日,腾讯混元宣布Hy4大模型开源,权重同步上线GitHub、Hugging Face、ModelScope和GitCode,开发者可下载部署。此次开源使混元LLM系列实现全量开放,全部版本完成开源,涵盖Hy3preview、Hy3、Hy4preview等,形成旗舰版与高性价比版双线并进格局。

    来源 AI 产业速递
向下滚动自动加载更多