微软牵头40多家组织推AI开放标准,覆盖闭源与开放权重模型
IT之家 11 月 18 日消息,微软今日在 Ignite 大会上宣布启动 AI 透明度计划(AI Transparency Initiative),与埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等 40 多家组织合作,共同推动制定适用于不同 AI 模型和服务提供商的开放标准,以加强 AI 系统的透明度、安全性和治
11 月 18 日,微软在 Ignite 大会上宣布启动 AI 透明度计划(AI Transparency Initiative)。埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等 40 多家组织参与其中,目标是一起推动制定开放标准,适用于不同 AI 模型和服务提供商,让 AI 系统在透明度、安全性和治理上更进一步。
微软董事长兼 CEO 萨提亚・纳德拉表示,公司会与客户和合作伙伴共同推进一套开放、通用的 AI 安全与治理框架。
微软方面解释,企业把 AI 模型接入内部数据、工具、凭据和基础设施之后,AI 智能体(Agent)已经可以在没有人类逐步审批的情况下自行执行任务。问题是,现有的安全管理机制往往只能看到 AI 活动的部分信息,模型从接收请求到给出结果之间发生了什么,难以完整还原;模型对自身行为的描述,也无法被独立验证。企业的安全管理、合规审计和责任追溯,因此多了一层难题。
这一计划包括三个方面。第一,微软会扩大对美国国家标准与技术研究院(NIST)AI Agent Standards Initiative(AI 智能体标准计划)的参与,借助相关研究,推动形成覆盖 AI 透明度、安全性和治理的行业开放标准。
第二,微软将联合 40 多家组织,推动建立适用于不同模型和服务提供商的开放标准,让 AI 系统具备可问责性和独立验证能力,并把安全机制放进设计阶段。微软强调,这套标准对闭源模型和开放权重模型同样适用,企业更换或升级底层模型时,原有的 IT 安全管理和合规审计机制仍可继续使用。
第三,相关成果会被整合进 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot 产品及服务,企业客户可以把 AI 活动产生的证据接入微软或其他供应商的安全与合规工具。
具体实施上,微软把计划归纳为观察、验证和控制三个环节。
-
观察,指的是企业要能弄清楚 AI 收到了什么指令、拿到了哪些授权、用了什么模型和运行环境、访问了哪些数据与工具,以及实际做了哪些操作;同时还要持续监控智能体的活动和风险信号。
-
验证,强调的是 AI 智能体不能成为证明自身行为的唯一信息来源。企业要把模型、运行环境,以及身份认证和策略管理等独立系统给出的记录放在一起,对 AI 的身份、授权意图和实际操作做交叉验证,而不能只看模型服务提供商对其行为的描述。
-
控制,则要求企业保留对 AI 权限的管理能力,比如限制智能体能访问的数据、能执行的操作和能获得的授权。一旦发生安全事件,企业还应能借助相关记录还原事件经过,用于调查、风险控制、恢复和审计。
微软安全业务执行副总裁 Hayete Gallot 表示,安全控制要真正起作用,企业需要提高对模型内部运行情况的透明度。
Adobe 首席安全官 Aanchal Gupta 和毕马威国际全球首席信息安全官 John Israel 也分别表示,企业需要更清楚地了解 AI 智能体访问了哪些资源、执行了哪些操作,以及怎样独立验证这些行为。
微软称,AI 智能体越来越多地融入企业运营,组织仍须对其行为承担责任,不能把 AI 本身当作规避责任的理由。