按 Box 公布的说法，新系统查问题的速度是原来的四倍，错误率降了 20%，token 消耗量少了 90%。企业 AI 的竞赛里，“找到正确的那一页”这个环节常常最容易被低估。11 月 5 日，Box 宣布推出这套系统，设计思路不再沿用传统的“检索—生成”流水线，改成“智能体优先”（agent-first）架构。底层模型来自英伟达今年力推的 Nemotron 系列。
对要替全公司数万名员工承担推理成本的企业客户来说，token 少用 90% 这个数字，可能比前两个更有吸引力。
为什么传统 RAG 开始“不够用”
过去两年，企业接大模型的标配方案是 RAG（检索增强生成）：把用户问题向量化，从文档库里召回若干片段，再塞进提示词让模型作答。流程简单、可解释，上线也容易。可放到真实企业环境里，短板很快露出来。
企业的问题很少是“单跳”的。员工问的常常是“上个季度欧洲区续约率下滑的原因是什么”，答案可能散在 CRM 导出表、三份会议纪要、一封法务邮件和两个版本的销售手册里。传统 RAG 只检索一次，召回质量高度依赖问题字面怎么写；第一次没找对材料，模型就只能拿着残缺上下文给一个看着合理、实际错误的答案。企业最不能接受的就是这种错误。
“智能体优先”把检索本身变成需要规划、需要反复的任务：模型先拆问题，定下查哪些数据源、用什么关键词、按什么顺序查；拿到中间结果后判断够不够，不够就换条路再查；最后才组织答案。模型不再被动接收上下文当“答题者”，而是自己去找资料的研究助理。
“我们不再问‘哪几段文本最像这个问题’，而是问‘要回答这个问题，需要依次做哪几件事’。”这句话点出了智能体检索与传统 RAG 的分界。
Nemotron 扮演了什么角色
英伟达的 Nemotron 是一组面向开发者开放的模型家族，覆盖语言理解、推理与多模态等方向，主打可定制和推理效率。Box 这类平台选开放权重模型，现实动机很直接：企业内容里有合同、财报、人事记录，客户普遍不肯把这些数据送进闭源 API 的黑箱，也不愿承担按 token 计价、无法控制的成本。能私有化部署、能按垂直领域微调的模型，过合规审查更容易。
token 消耗降 90% 这个指标说明，智能体架构未必等于“更贵”。直觉上多步推理要调更多次模型、烧更多 token；可每一步的上下文如果更准、更短，又避开了传统方案把大量无关片段一股脑塞进提示词的做法，总账反而可能大幅下降。这背后是检索精度与上下文长度之间的重新平衡：规划更聪明，输入就更干净。
速度提四倍也能这样解释。传统 RAG 的瓶颈常卡在向量召回和大上下文推理上，智能体检索靠分层过滤、按需读取，把昂贵的长上下文推理压在少数真正必要的环节。
企业搜索的战场正在重排
Box 这一步不是孤立事件。微软把 Copilot 深度嵌进 Microsoft 365，Glean 以跨应用企业搜索起家，Notion、Atlassian 等协作工具也纷纷内置 AI 问答。内容库是 Box 的护城河，可检索体验一旦落后，护城河就只剩“存放文件的地方”这一层。
企业 AI 的竞争焦点，正从“模型有多强”转向“工程链路有多顺”。同一个开源模型，配不同的检索策略、权限体系与评估方法，最终产品体验可能差得很远。Box 公开强调速度、错误率和 token 这三个工程指标，没去发跑分榜单，本身就说明了这一点。
厂商公布的内部评测数据需要谨慎看待：测试集怎么构造、错误怎么定义、四倍加速是在多大规模的内容库上测得，这些细节都会明显影响结论。真正的考验在客户把数百万份历史文档、复杂的权限继承和混乱的文件夹结构一起灌进去之后，系统还能不能维持同样的表现。
编者按：智能体检索不是万能药。多步推理能力更强了，也带来新的可观测性难题：模型自主决定查什么、查几次，出错时就更难定位是哪一步跑偏。对企业来说，下一阶段的关键能力可能不是“接哪个模型”，而是能不能建立一套可审计、可回滚的检索评估体系。谁能把智能体的“黑箱决策”变成可解释的调用链，谁就更有机会拿下那些最谨慎的大客户。
