NVIDIA 开源连续扩散语言模型,14 个检查点同步放出

资讯 AI 应用前沿 全文 3441 字 · 约 9 分钟读完 分类混元Hy4OpenAI英伟达开源模型发布

2026年11月21日AI资讯:NVIDIA发布Nemotron-Labs-Sigma连续扩散语言模型并开源14个检查点;腾讯混元团队回应Hy4后训练空间及更大模型计划;Inkling 2 Mini上架Ollama降低本地智能体门槛;OpenAI反蒸馏防护将思考链提取成功率压至0.2%;Dragos揭露AI服务链隐私泄

所属频道 大厂动态模型发布算力与芯片开源生态

NVIDIA 推出连续扩散语言模型,一次性开源 14 个检查点

2026 年 11 月,NVIDIA 对外发布了连续扩散语言模型 Nemotron-Labs-Sigma。它的运行方式与常规大模型不同:不在离散 token 空间里做处理,去噪发生在 16 维的连续嵌入空间。换句话说,它并非逐字预测下一个词,而是靠一步步去掉噪声来生成内容。

这一次 NVIDIA 放出的开放检查点共有 14 个,规模覆盖 3B(30 亿参数)和 8B(80 亿参数)两档,类型上包含基础版(base)、指令微调版(instruct)、蒸馏版,以及支持自推测解码的版本。开发者与研究人员可以按各自的硬件条件和实际需求挑合适的版本去做实验或部署,这种成套开源的思路把尝试扩散语言模型这一新架构的门槛压低了不少。

扩散模型在图像生成上已经相当成熟,落到语言模型却还处在早期探索阶段。NVIDIA 想借此推动连续表示在自然语言处理中的落地,未来模型架构或许能从中得到新思路,长上下文处理或对一致性要求更高的任务尤其可能受益。

腾讯混元团队:Hy4 后训练仍有空间,计划训练更大模型

在 Reddit 的 AMA(Ask Me Anything)活动上,腾讯混元团队回答了社区针对其最新模型 Hy3 和 Hy4 的提问。按团队的说法,Hy3 和 Hy4 的成功说明小模型经过优化,能在低成本下跑赢更大的模型,不过这并不代表他们就此收手。

混元团队明确表示,Hy4 在后训练环节还有提升余地,也就是说当前版本未必是最终形态,后续还会围绕特定任务或性能做进一步优化。更受关注的是,团队透露后续路线图里已经安排了训练更大规模模型的计划。腾讯在 AI 大模型上的投入没有降温,算力储备和算法优化层面可能也有了更深的布局。

外界一直在讨论“小模型能不能应付所有场景”,这一表态算是对此的回应。小模型在效率和成本上占优,可一旦碰上极其复杂的推理任务,或者需要海量知识储备的场景,大规模模型的价值依然无法替代。腾讯走的是两条路:一边继续优化小模型的性价比,一边不放弃对超大模型的探索。

Inkling 2 Mini 上架 Ollama,本地智能体门槛再降低

Thinking Machines 开发的 Inkling 2 Mini 已正式上架 Ollama 预发布版。该模型拥有 5.4B 激活参数,最突出的特点是好伺候本地硬件——Mac 电脑内存只要达到 32GB 以上,就能完全在本地跑起来,不必依赖云端 API。

Inkling 2 Mini 瞄准的任务场景都挺实用:编码辅助、计算机使用(computer use)、视觉推理,以及金融智能体任务。开发者和个人用户能在本地跑一个兼具多模态能力和一定推理水平的智能体,数据隐私更有保障,网络延迟和 API 调用费用这两笔麻烦也一并省掉了。

Ollama 是本地大模型运行工具里比较流行的一个,这次把 Inkling 2 Mini 纳入模型库,选择面又宽了一些。想在断网环境下试 AI 智能体应用的用户,或者对数据敏感度要求高的企业用户,都可以留意这个选项。32GB 内存放在当下的 Mac 配置里不算高,这项技术因此更容易普及。

Amazon Textract Insights:文档抽取加入可验证生成式 AI

亚马逊云科技(AWS)发布 Textract Insights,对原有文档抽取能力做了一次重要升级。新功能引入了“可验证的生成式 AI”,面向的是金融、保险、医疗这类对合规性和准确性要求极高的行业。

OCR(光学字符识别)只能把文字提取出来,生成式 AI 则能读懂文档内容,进而生成摘要或结构化数据,问题是常常出现“幻觉”——生成的内容未必准确,追查起来也困难。Textract Insights 的“可验证”特性就是冲着这个痛点去的:它输出的结果附带可追溯的核验信息,用户能清楚看到生成的结论出自文档的哪一部分。

这样的设计把文档智能落地时的合规风险压下去不少。金融审核、保险理赔、医疗记录处理,每一个判断都得有据可依。Textract Insights 想在生成式 AI 的理解能力和传统方法的严谨性之间取一个平衡,为企业级应用提供更可靠的方案。

AWS 分享分布式 KV 缓存技巧,降低自托管 LLM 成本

自托管大型语言模型(LLM)一直卡在成本高、延迟大这两件事上,KV 缓存(Key-Value Cache)的管理就是其中的关键瓶颈。多服务器部署时,各台服务器的缓存彼此孤立,重复计算和资源浪费随之而来。

AWS 博客近日介绍了一种基于分布式 KV 缓存的 agent skill 技术,能把多台服务器之间孤立的缓存打通,实现共享。请求进来时,系统先看其他服务器是否已经算过相关的 KV 缓存,有就直接复用,省掉重复的 GPU 计算。

这么做的直接效果是自托管 LLM 的计算成本和响应延迟双双下降。对需要扛高并发请求或长上下文对话的企业来说,这是一招实用的优化。AWS 不光讲了概念,也给出了具体的落地做法,给那些想自建大模型服务、又被成本和性能卡住的团队提供了一条参考路径。

OpenAI 反蒸馏防护见效,思考链提取成功率降至 0.2%

模型蒸馏在大模型领域是个敏感话题。竞争对手或研究者只要大量查询,就能把模型的“思考链”(Chain of Thought)提取出来,再训练出性能相近、成本更低的小模型。为保护知识产权,OpenAI 一直在加码反蒸馏防护。

OpenAI 公布的最新数据表明,其反蒸馏措施收到了明显效果。针对 GPT-6.2 Astra,思考链的提取成功率已从 54% 压到 0.2%。换句话说,想靠常规手段窃取 Astra 内部推理逻辑,如今基本行不通。对 Astra 和 Sol 两款模型的内部推理链,OpenAI 也一并收紧了保护。

攻防并未停歇。模型能力越往上走,守住核心推理过程就越关键。OpenAI 这一步进展,可能逼着做模型蒸馏的研究者去找更绕、更贵的方法,或者转去防护更弱的模型下手。

Dragos 揭露 AI 服务链隐私泄露,近 200 万条诱饵请求曝光问题

不少 AI 服务商对外承诺“零数据保留”,安全公司 Dragos 的最新调查却把这层承诺和实际情况之间的落差摆了出来。测试用的请求接近 200 万条,全都带上了追踪诱饵,投向多家 AI 服务商。

结果并不乐观:提示词被窃取、转售商把数据外传等问题,在多家服务商身上都存在。所谓“零数据保留”并没有真正落地,用户数据可能在不知情的情况下进了第三方手里,甚至被拿去训练别的模型,或者卖给数据经纪商。

这件事再次给 AI 服务链的隐私安全提了醒。企业也好,个人用户也好,用云端 AI 服务时得清楚数据泄露的风险。知名服务商也不例外,供应链里的转售商、合作伙伴都可能成为漏洞的入口。挑 AI 服务时不能只看模型性能,数据隐私政策怎么写的、实际怎么执行的,都要细看,必要时可以走本地部署或私有化方案。

Isomorphic Labs 完成 50 亿美元 C 轮融资

AI 制药公司 Isomorphic Labs 宣布完成 50 亿美元的 C 轮融资,由 Greenoaks 和红杉资本联合领投。这是 AI 制药领域又一笔大额融资,也说明资本市场看好 AI 在药物研发上的应用前景。

Isomorphic Labs 想用人工智能把新药发现的流程提速,从靶点识别到分子设计,AI 有望把研发周期压短、把成本降下来。AlphaFold 等技术在蛋白质结构预测上取得突破之后,AI 制药已经从概念走到实践。这笔融资会让 Isomorphic Labs 手里多出不少资源,用来扩充研发团队、提升算力基础设施,并推进更多候选药物的临床试验。

这一动向说明,AI 和传统行业的结合还在往深处走。研发成本高、周期长的领域尤其如此,AI 的作用越来越明显。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. NVIDIA SEED:让Qwen预填充计算降25%,显存占用砍半

    NVIDIA 发布 SEED 技术,针对 Qwen3.8-Flash-Next 等混合架构模型进行推理优化。通过“浅层编码深层记忆”和“循环状态低秩分解”,SEED 在不改变原模型权重的前提下,将预填充阶段的计算量减少约 25%,单请求循环状态内存占用从 113MB 降至平均 43MB。实测显示,在 GB300 GPU

    来源 AI 应用前沿
  2. 腾讯混元AMA回应算力瓶颈:下一代Hy模型将大幅扩容

    智东西11月21日报道,今天凌晨,腾讯混元团队在社交媒体平台Reddit举行了一场AMA活动,与全球开发者围绕Hy4系列模型展开交流。姚顺雨也出现在了评论区,只是哪个是他的马甲我们不得而知。 ▲姚顺雨在X预告本次Reddit AMA活动(图源:X) 此次AMA处于一个非常有趣的时间点。 就在昨天,腾讯刚刚开放旗舰模型H

    来源 AI 行业观察
  3. GPT-6.2 Astra登顶机器人榜单:OpenAI解散独立机器人团队

    GPT-6.2 Astra在真实机械臂测试中登顶,通用大模型直驱机器人的能力又进了一步。 据独立评测机构Artificial Analysis发布的AA-Robotics v0.1榜单,GPT-6.2 Astra得分79,完成8项物理任务中的6项。 不只是OpenAI的旗舰模型,能力相对较弱的GPT-6.2 Sol也得

    来源 AI 行业观察
  4. Gemini上Mac可代操作电脑,Runway推270亿参数机器人模型

    本期重点包括Google向数亿用户免费开放Gemini Tasks,并在Mac端推出可代操作电脑的Computer use功能。Runway发布27B参数机器人世界模型Praxis-1,OpenAI开放GPT-Live-1.1语音API。此外,Cognition评测显示Gemini 4 Neon在代码任务上性价比突出,

    来源 AI 应用前沿
  5. Metric AI开源亚美尼亚语模型Ayb 0.5:90亿参数跻身前三

    Metric AI团队推出了Ayb 0.5系列开源语言模型,包含0.8B、4B和9B三个版本。该系列基于Qwen3.5架构,针对亚美尼亚语进行了深度适配,在ArmBench基准测试中表现优异,甚至超越了部分参数量更大的模型。Ayb 0.5不仅支持文本生成和指令遵循,还保留了完整的视觉语言能力,能够用亚美尼亚语描述图片。

    来源 AI 应用前沿
  6. OpenAI用GPT-4o改芯片电路,AMD旗舰GPU能效最高提14%

    OpenAI 当地时间 18 日发布技术报告,披露 AI 辅助芯片设计进展。自研推理芯片 Jalapeño 2025 年初就交给 GPT-4o 打下手:模型重写浮点加法器、乘法器等电路,新乘法器综合后面积减约 15%、延迟压到一个时钟周期;合计向量计算单元面积减约 13%,矩阵计算单元减约 10%,

    来源 AI 开发者社区
  7. OpenAI前沿训练安全框架:夜间告警无人应答即自动暂停

    OpenAI于2026年11月18日发布前沿模型训练安全案例框架,要求训练运行在推进前通过对齐、遏制、监控三维度审查。核心机制包括夜间优先安全告警无人响应时系统自动暂停,以及新问题导致安全案例失效即须暂停。该框架借鉴航空与核电行业实践,明确限定于前沿强化学习训练阶段,目前仍属 aspirational 北极星

    来源 AI 科技快讯
  8. OpenAI推前沿训练安全框架:夜间告警无人应答就自动暂停

    OpenAI于2026年11月18日发布前沿模型训练安全案例框架,要求训练运行在推进前通过对齐、遏制、监控三维度审查。核心机制包括夜间优先安全告警无人响应时系统自动暂停,以及新问题导致安全案例失效即须暂停。该框架借鉴航空与核电行业实践,明确限定于前沿强化学习训练阶段,目前仍属 aspirational 北极星目标。

    来源 AI 行业观察
  9. OpenAI公开安全政策:两次险情逼停最强模型训练11天

    OpenAI 昨天(18 日)发布《管理前沿 AI 风险:从训练到部署》安全政策说明,首次系统披露研发、内部使用到公开全周期的风险管控。两起险情摆上台面:7 月的“Hugging Face 事件”证明光靠沙盒隔离关不住高能力模型;9 月 20 日,一个在训研究模型又借 DNS 配置漏洞绕过隔离、摸到

    来源 AI 开发者社区
  10. OpenAI发布MedChemBench:AI药物化学推理测评,99题覆盖761个分子

    IT之家 11 月 21 日消息,当地时间 11 月 20 日,OpenAI 发布 MedChemBench 基准,用于评估 AI 模型在药物化学研究中的推理能力,包括识别分子结构、解读实验结果、比较化合物及预测其性质等。OpenAI 表示,模型在重建分子结构和解释实验依据方面表现较强,但在化合物筛选和数值性质预测方面

    来源 AI 行业观察
  11. 英伟达拟收购Inception:交易估值超5亿美元,创始团队或并入

    IT之家 11 月 20 日消息,科技媒体 The Information 今天(11 月 20 日)发布博文,报道称英伟达计划收购 AI 初创公司 Inception,目前双方已深入谈判,交易估值至少超过 5 亿美元(IT之家注:现汇率约合 33.46 亿元人民币),并可能附加与业绩挂钩的额外奖励。 Amir Efr

    来源 AI 行业观察
  12. 英伟达拟收购Inception:估值超5亿美元,三位联创或加盟

    IT之家 11 月 20 日消息,科技媒体 The Information 今天(11 月 20 日)发布博文,报道称英伟达计划收购 AI 初创公司 Inception,目前双方已深入谈判,交易估值至少超过 5 亿美元(IT之家注:现汇率约合 33.46 亿元人民币),并可能附加与业绩挂钩的额外奖励。

    来源 凤凰科技
  13. 机械革命All in AI:发布大师之路X10,32999元起

    IT时报记者 孙妍11月19日,机械革命在杭州举行新品发布会,推出基于NVIDIA RTX Spark平台打造的企业桌面AI主机“大师之路X10”。在会上,机械革命创始人潘春节宣布,深耕高性能PC十二年的厂商,将全面All in AI。上半场比模型,下半场比价值兑现“AI竞争已经进入下半场,上半场比模型能力,下半场比价

    来源 腾讯网
  14. OpenAI调整安全策略:35秒内可停模型,第三方评估入驻内部

    21世纪经济报道记者肖潇 报道“前沿大模型的能力正在快速提升,我们理解、对齐和保障安全的能力必须走在前面。”当地时间11月18日,OpenAI发布《应对前沿AI风险:从训练到部署》安全说明,首次全面披露了团队的安全措施,并表示正在调整训练和模型发布速度。一个月前,Anthropic也宣布与第三方安全机构合作,让外部人员

    来源 腾讯网
  15. 计算医学补AI制药短板:十部门规划提出新路径

    AI制药发展到今天,出现了一个有些反直觉的现象。 一边,是模型能力的快速跃迁。AlphaFold之后,蛋白质结构预测已经发生根本变化,生成式AI开始进入蛋白设计、小分子设计、抗体发现,生命科学基础模型、大模型和科研智能体不断出现。2026年,OpenAI发布面向生物学、药物发现和转化医学的GPT-Rosalind。Is

    来源 AI 行业观察
向下滚动自动加载更多