OpenAI更新模型规范：AI须忠于人类意图
OpenAI 凤凰网科技讯 北京时间10月30日，据路透社报道，OpenAI在周四更新了其《模型规范》(Model Spec)。这是一份公开路线图，阐述了该公司希望其AI模型如何表现。 ....
北京时间10月30日，据路透社报道，OpenAI于周四更新了《模型规范》（Model Spec）。这份公开路线图讲的是该公司希望自家AI模型怎么表现。
随着AI系统能力不断增强，OpenAI把忠于人类意图摆在这套框架的最底层，要求模型去理解用户、开发者和OpenAI各自的意图与价值取向，而非照着字面把指令执行一遍。
OpenAI称，这次更新属于其AI对齐工作的一环，目的是让模型在陌生情境中也能套用人类价值观，同时一直处在人类监督之下。修订后的框架提出，模型应尽量少造成伤害，对自己知道什么、不知道什么保持透明，并帮用户自己拿主意、去追自己的目标。
该公司表示，当前的模型还没能完全达到更新后《模型规范》的要求，正在摸索新的训练方法，让模型把这些原则吃进自身行为里。
这一动作与竞争对手Anthropic的“宪法式AI”方法形成呼应。后者用一套写下来的原则“宪法”来约束模型行为，也让塑造AI系统的价值观更透明。(作者/箫雨)
本文由本站编辑组整理与排版，内容基于公开信息核实后归纳发布，与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态，力求信息准确、表述清晰；文中涉及的名称、价格与功能细节可能随官方调整而变化，请以官方最新说明为准。如发现疏漏或表述有误，欢迎通过站内渠道反馈指正。
