Nex-N2.6开源:321B多模态Agent模型如何破解“鬼打墙”循环?
上海创智学院(Nex-AGI)开源了基于GLM-5.3-Flash后训练的Nex-N2.6模型。该模型拥有约3210亿参数,支持256K上下文,主打电脑操控、编程和长程工具调用。其核心突破在于将推理复读率从16%降至1.6%,并在OSWorld评测中取得83.0分。文章介绍了其技术原理、本地部署方法及与竞品的对比。
Agent模型不再“原地打转”
做AI Agent(智能体)落地,有个让人头疼的老大难问题:模型容易“鬼打墙”。
让AI去执行一个要十几步操作的复杂任务,它常常在中间某一步卡住,接着反复输出相同内容,或者在两个无效操作之间无限循环。Token费用就这么白白烧掉,自动化流程也跟着变得不可靠。
上海创智学院(Nex-AGI)最新开源的 Nex-N2.6 模型,就是冲着这个问题来的。
它基于
智谱 GLM-5.3-Flash 做后训练,属于多模态能动性模型,参数量约 3210 亿(321B)。最引人注目的改进,是把推理过程中的“复读率”从上一代的 16.0% 压到了 1.6%。长程任务里,模型更少陷入死循环,端到端成功率随之提高。
稳定性之外,Nex-N2.6 在电脑界面操控(CUA)上也拿出了硬成绩:OSWorld 评测得分 83.0,跻身第一梯队。想自建本地化、高可控 AI 员工的企业或开发者,多了一个新的开源选择。
复读率下降为什么这么重要?
不少人可能觉得,AI 重复说几句话没什么大不了。可放到 Agent 场景下,这就是致命的。
比如你让 AI 整理一个文件夹,它得先读文件列表,再判断文件类型,最后移动文件。要是在“判断文件类型”这步卡住,开始反复输出“我正在查看文件...”,整个流程就停摆了。云端 API 按 Token 计费,这种无效输出是在烧钱;本地部署,则是在空转算力。
Nex-N2.6 团队用的办法叫“断点重放”(Checkpoint Replay)。
他们收集了 698 个真实的失败案例(Badcase),都是模型在实际使用中报错或卡死前的状态。训练时,模型出错前的所有历史上下文和工具返回结果被冻结,让它从这个“断点”重新开始生成。这好比教学生做题,不让他从头再读一遍题,而是直接指着做错的那一步问:“这里为什么错了?接下来该怎么走?”
这种针对性的故障修复训练,让模型在面对长任务时,未循环率达到了 97.8%。再加上 256K 的长上下文窗口,需要几十步甚至上百步操作的工作流也能处理。
真正的“即插即用”:跨框架工具调用
另一个让开发者头秃的问题,是工具调用的兼容性。
眼下 Agent 开发框架五花八门,Claude Code、Codex、Cursor 以及各类自研框架,声明工具(Function Calling)的方式和命名规范各不相同。很多模型训练时过拟合了特定环境,一换框架,就因为找不到熟悉的工具名称而“罢工”,或者胡乱调用不存在的工具。
Nex-N2.6 针对这一点做了专门优化:训练时喂给它多框架混合的真实上下文,让它掌握一条核心原则——只看当前请求里声明的那份工具清单。
在包含 956 条真实上下文的测试中,Nex-N2.6 实现了 100% 的清单内精准匹配。底层用哪个框架无所谓,只要当前的 API 请求里告诉了它有哪些工具可用,它就能准确调用。这种“跨 Harness 零误调”的能力,大大降低了集成成本,让它真正具备了即插即用的特性。
能看懂屏幕,也能敲代码
Nex-N2.6 是一个多模态模型,意味着它不光能处理文本,还能“看”图。
在电脑操控(CUA)场景下,屏幕截图可以直接作为输入。模型会识别界面上的按钮、输入框、菜单等元素,描述可用的控件,然后生成相应的操作指令(如点击坐标、输入文本等)。在 OSWorld 这个权威的电脑操作评测基准上,它取得了 83.0 分,比其底座模型 GLM-5.3-Flash 高出 5.0 分,也超过了 DeepSeek-V4.1-Flash 等竞品。
编程的老本行也没丢。Terminal-Bench 2.1 评测中,它拿到了 84.1 分,命令行操作和自动化运维能力扎实。服务器巡检、日志分析,还是复杂的代码重构,它都能胜任。
如何把 Nex-N2.6 跑起来?
Nex-N2.6 采用 Apache 2.0 协议开源,提供了 FP8 量化的权重。FP8 是一种低精度格式,性能几乎不损失,显存占用和推理延迟却能大幅降低。
方案一:本地部署(适合有硬件资源的团队)
想自己搭环境,官方更推荐 SGLang 这套框架,原因是它对 MoE(混合专家)结构和 FP8 的支持比较到位。
第一步是把权重拉下来,用 ModelScope CLI 就能完成:
modelscope download --model nex-agi/Nex-N2.6 --local_dir nex-agi/Nex-N2.6环境准备方面,得有一台装 8 张高性能 GPU 的服务器,H800、A800 这类都行。Docker 装好之后,把官方 SGLang 镜像拉取下来:
docker pull lmsysorg/sglang:latest接着把模型目录挂进容器再起服务。张量并行(TP)和专家并行(EP)这两个参数要设对,8 张卡的算力才能吃满:
docker run --gpus all -v /path/to/model:/model lmsysorg/sglang:latest \ python -m sglang.launch_server \ --model-path /model \ --tp 8 \ --ep 8 \ --quantization fp8 \ --served-model-name Nex-N2.6 \ --reasoning-parser glm45 \ --tool-call-parser glm47
- 调用接口服务起来以后,会给出一个兼容 OpenAI 格式的 API 端点,默认地址是
http://127.0.0.1:8000/v1/chat/completions调用方式和 GPT 差不多,把 model 参数填成Nex-N2.6。
要传图片,比如屏幕截图,就在消息体里用image_url 类型即可。
方案二:云端 API(适合快速验证)
GPU 资源不够的话,走第三方平台调用也是一条路。
- OpenRouter:搜索
nex-agi/nex-n2.6拿到 API Key 之后,用标准 OpenAI SDK 就能调,上下文支持 256K。 - MOSS 平台:进 MOSS 开放平台,照文档申请 API Key 即可调用。
它和闭源模型比怎么样?
要看清 Nex-N2.6 处在什么位置,拿它和当前主流的闭源模型 GPT-6-Sol 对照一下会更直观。
| 维度 | Nex-N2.6 | GPT-6-Sol |
|---|---|---|
| 开放性 | 开源 FP8 权重,可自托管 | 闭源,仅 API 调用 |
| 上下文窗口 | 256K | 约 1,050K(超长部分加价) |
| 电脑操控 (OSWorld) | 83.0 | 60.5%–64.4% (厂商自报) |
| 终端能力 (Terminal-Bench) | 84.1 (v2.1) | 未报告该版本成绩 |
| 工具适配 | 100% 清单内精准匹配 | 100% (内部基准) |
| 长任务稳定性 | 复读率 1.6%,未循环率 97.8% | 未公开内部数据 |
| 数据合规 | 本地运行,数据不出内网 | 数据经 OpenAI,需评估合规 |
| 部署门槛 | 高(需 8 卡级 GPU) | 零门槛,即开即用 |
表格反映出的情况是,Nex-N2.6 的强项集中在数据主权和特定场景的性能上。金融、政务这类对数据隐私格外敏感的行业,既要能本地部署、性能又得够强,开源模型几乎是必选项。电脑操控和终端运维这两个具体赛道上,它的评测数据甚至压过了部分闭源竞品。
不过闭源模型在通用性、生态丰富度和上手便利性上仍有明显优势。如果只是偶尔写个脚本,或者处理些不敏感的文本任务,GPT-6-Sol 这类云端服务反而更省事。
哪些场景最适合用它?
结合 Nex-N2.6 的特点来看,下面几个场景大概最能派上用场:
桌面软件自动化:不少传统企业软件(ERP、CRM 等)没提供像样的 API,只能靠图形界面操作。Nex-N2.6 能像人一样“看”屏幕,填表、搬数据、出报表这些重复活可以自动完成。
专业工程工作流:FreeCAD、Blender 这类专业软件虽然有脚本接口,但写起来复杂。AI 直接操作 GUI,就能做参数化建模、批量渲染等自动化流程,专业软件的使用门槛也随之降低。
运维与服务器管理:Terminal-Bench 能力是它的长处,服务器巡检、日志异常分析、批量脚本执行这些运维任务可以交给它,发现异常时还能自动尝试修复或报警。
长程软件工程:在 Claude Code、Cursor 等辅助编程环境里,需要改多个文件、跨多个模块的复杂重构,Nex-N2.6 能接得住。低复读率加上长上下文支持,大项目里也不容易“迷路”。
写在最后
Nex-N2.6 选择开源,是国产大模型在 Agent 方向上的一次重要尝试。它没有一味堆参数量,而是盯着 Agent 落地时的实际难题:稳定性、工具兼容性和多模态交互。
3210 亿参数不是个小数字,FP8 量化加上 SGLang 的优化让它变得“可负担”,可本地部署的门槛依旧摆在那里。多数个人开发者想体验它的能力,走云端 API 或许更现实;有私有化部署需求的企业,则多了一个高性能、高可控的基座模型选项。
AI 的走向正从“对话”转向“行动”,在这样一条路上,模型能不能把事情办成,会比它能不能想出东西更关键。Nex-N2.6 已经往前踩下了扎实的一脚。后面要看的,是开发者拿它做出什么样的智能应用,能不能真的把实际问题解决掉。