百度开源280B参数ERNIE 5.5 Flash Base,OpenAI推8倍速推理与决策API
本期速报关注大模型权重开放与端侧应用落地。百度正式开源ERNIE 5.5 Flash Base基座模型,采用MoE架构支持百万级上下文;OpenAI推出GPT-6.1 Sol Ultrafast及Decisions API,主打代码生成速度与实时决策能力。此外,Hugging Face发布端侧语音合成模型Phonon
百度开源 ERNIE 5.5 Flash Base:280B 参数 MoE 架构亮相
2026 年 11 月,百度把 ERNIE 5.5 Flash Base 基座模型的预训练终点权重开放了出来。模型文件开发者可以直接从 Hugging Face 下载,拿去做微调或者进一步研究。
这款模型走的是稀疏混合专家(MoE)路线。总参数规模达到 2800 亿(280B),可每处理一个 token,真正被激活的只有 140 亿(14B)参数。思路很直接:容量要留住,推理成本也要压下来。大规模参数带来的知识储备得以保留,稀疏激活则让计算负载降了下去。官方数据还显示,它支持 100 万(1M)的上下文窗口,超长文档、复杂代码库这类场景用得着。
预训练权重开放之后,研究机构和个人开发者做领域适配就灵活多了。闭源模型过去一般只给 API,底层行为很难动。现在社区可以在这个基座上搭垂直领域的专用模型,也能测试不同微调策略会给 MoE 架构带来什么影响。按官方说法,该模型在多个同尺寸基准测试中刷新了最佳成绩,不过实际表现还得看第三方独立评估。
OpenAI 开发者更新:GPT-6.1 Sol Ultrafast 与实时决策 API
OpenAI 在最近的开发者更新里拿出的两款新工具,都冲着特定场景去:一个解决速度延迟,一个解决自动化决策。
先看
GPT-6.1 Sol Ultrafast。官方介绍称,它在 Codex 环境下生成 token 的速度最高能达到标准版的八倍。代码补全、即时调试辅助这类对延迟敏感的任务,体验会因此明显改善。响应一快,开发者写代码时几乎察觉不到停顿,思路不容易断。
另一款是 Decisions API,接口面向近实时决策场景。传统大模型 API 多用来生成文本或图像,Decisions API 则让智能体在复杂环境里快速做判断。自动化交易、游戏 AI、实时资源调度系统这类场景,模型要在极短时间内分析状态、输出行动指令。这个 API 说明 OpenAI 正试着把大模型从内容生成工具,变成实时控制系统的核心组件。
网络安全方面,OpenAI 也展示了自动化能力。其自主安全管线单次运行验证并修补了 948 个 Linux 内核本地提权漏洞,成本约 120 万美元。这个案例既说明模型在代码审计上有潜力,也带出了 AI 自主发现并利用未知漏洞技术的讨论。
Hugging Face 推出 Phonon TTS:端侧语音合成的新选择
Hugging Face 介绍的 Phonon TTS,主打高质量语音合成,同时支持端侧运行。传统 TTS 服务依赖云端算力,Phonon TTS 想的是在本地设备上完成高效推理。
放到端侧,最大的好处是隐私和延迟。语音数据不用传到服务器,泄露风险没了,网络波动造成的延迟也一并消失。医疗、金融这类对数据安全要求极高的企业应用,看重这一点。Hugging Face 称该模型在相关基准测试中表现领先,语音应用开发者可以评估、集成一下。
移动设备芯片算力在涨,端侧 AI 也跟着起来。Phonon TTS 给开发者多了一个选项:音质不牺牲,语音交互应用可以做成完全离线。物联网设备、车载系统、离线环境下的辅助工具,都用得上。
工程实践:AWS 的四层上下文工程方法
智能体(Agent)任务越做越复杂,上下文窗口怎么管,成了工程落地绕不开的问题。AWS 在博客里分享了“四层上下文工程”方法,并用 Deep Insight 代码做了详细说明。
长任务里,智能体要处理的历史对话、工具调用结果、环境状态信息都很多。所有信息一股脑塞进提示词,上下文窗口很快见底,推理成本上去,模型注意力也会被稀释。AWS 的四层方法就是要把这件事系统化:
- 原始数据层:最基础的数据源留着,但不全部直接放进上下文。
- 摘要层:历史对话和关键信息压缩、摘要,提取核心事实。
- 检索层:按当前任务需求动态检索相关片段,不全量加载。
- 决策层:只把筛选、结构化过的信息交给模型做最终决策。
这套方法讲的是“按需供给”,模型每一步只拿到必要且相关的信息。文章附带的代码实践展示了这些层级在真实项目里怎么落地,帮开发者控制上下文消耗,也提升智能体的稳定性和效率。正在搭生产级 Agent 的团队,可以拿它当工程规范参考。
工具更新:datasette-agent 新增面板式交互
Simon Willison 开发的 datasette-agent 出了 0.5a0 版本,加了面板式智能体交互功能。用户可以把智能体聊天界面和数据表格或查询页面并排摆着看。
以前用 AI 辅助数据分析,用户在聊天窗口和数据视图之间来回切,上下文容易丢。新的面板设计针对的就是这个痛点:看数据的同时直接跟智能体对话,让它构建或修改应用。再配合 datasette-apps,在数据上下文里迭代开发会顺畅不少。
这种“所见即所得”的交互方式,让人和机器配合起来更省事。AI 也就不是那种黑盒式的问答工具了,而是嵌进工作流里的实时帮手。对数据分析师和开发者来说,界面直观了,上手门槛就低,探索性数据分析做起来也更自然、更高效。
结语
百度开源大规模 MoE 模型、OpenAI 推出高速推理 API,再加上端侧 TTS 和 Agent 工程化方面的进展,这一周的消息说明 AI 行业在往更高效、更实用、更可控的方向走。参数竞赛不再是重点,模型开始扎进具体应用场景,去解决速度、隐私、工程落地这些实际问题。这些工具和方法上的更新,开发者最好盯紧些,落到项目里才能把 AI 能力用得更充分。