微软发布Decision-1.1:速度提升2倍,准确率登顶
智东西(公众号:zhidxcom)编译 | 程茜编辑 | 李水青智东西11月18日消息,今日,微软发布新一代决策模型Microsoft-Decision-1.1。在Artificial Analysis决策指数榜单中,Microsoft-Decision-1.1获得68分,排名第8,比微软首款决策模型高出6分,领先于J
智东西11月18日消息,微软今日推出新一代决策模型Microsoft-Decision-1.1。
今年10月10日,微软上线了自家第一款决策模型Microsoft-Decision-1。按照微软的说法,与此前那版相比,Microsoft-Decision-1.1更聪明、校准更准,运算速度达到2倍以上,成本反倒更低。
决策模型之外,微软这次还带来了新东西。
新版决策模型增加了一些能力。
微软表示,其决策模型要做的,就是在各类现实软件用例存在不确定性的情况下给出经过校准的决策。模型会在开发者划定的约束范围内,从被允许的操作中挑选,并输出结果。
这些模型只盯着决策任务,因此跟通用大语言模型比起来,处理决策类任务时速度明显更快,成本也更低。
微软围绕延迟、成本、智能性、校准四个方面做了联合创新。
延迟方面,决策模型得实时跑起来,哪怕请求的输入很长、问题有数百个也一样。与过去针对逐token生成文本做优化的方案相比……
成本方面,微软的定制推理引擎通过在……(降低成本)。
智能性方面,决策模型要维持足够小的规模,才能在全场景下运行,还要能很好地泛化到全新或没见过的任务,并且得经过专门训练才会做决策。为此,微软将……
校准方面,微软训练模型明确自身的认知边界:相似场景下给出一致的回答,准确报告回答的置信度,存在多个有效答案时把置信度拆开,信息不完整时拒绝作答。开发者可以自行设定决策、标记或升级处理的阈值。
第三方测试之外,微软还用102个基准测试评估了Microsoft-Decision-1.1,这些基准覆盖超过38.5万个训练阶段没接触过的问题,任务类型包括路由、排序、长上下文、多语言等。
在8种决策模型中,Microsoft-Decision-1.1的平均准确率最高,9个能力类别里有7个处于领先。
上线才五周多,已有超过4000名客户用微软的决策模型完成各类任务,包括……
同时,微软正把Microsoft-Decision-1.1的专用智能集成进各类产品,让它们做快速高效的决策,更复杂的任务则交给规模更大的模型。
在Copilot中,Microsoft-Decision-1.1负责把用户请求路由到合适的交互场景,判断该由Copilot还是Cowork来处理最合适。这项决策的准确度与大型语言模型相当,处理速度快2.2倍,成本约为后者的1/4。
在Cowork中,该模型为Auto提供支持,动态调整Cowork针对每项任务投入的推理工作量。
结语:微软模型深度绑定自家产品,或走出差异化路线
跟其他头部模型厂商不同,微软的差异在于模型与GitHub Copilot、Foundry、Copilot工作流等自家产品深度绑定,模型能力直接嵌入既有的办公和开发入口,而不是单独售卖API。
这意味着企业可以把一套方案直接接入现有流程,合规边界清晰,上手成本也更低。
智东西(公众号:zhidxcom) 编译 | 程茜 编辑 | 李水青