OpenAI更新模型准则：5条核心价值观，第一条是忠于人类意图
新版“机器人三定律”。
阿西莫夫那套“机器人三定律”，这回似乎真要往现实里落了。
OpenAI 刚把模型准则（Model Spec）更新了一版，列出 5 条核心价值观。
排在最前、必须首先遵守的一条是：
“忠于人类意图”。
这么排，或许跟最近 AI 安全上出的岔子太多有关。
剩下 4 条分别是减少伤害、诚实透明、促进人的自主性、关怀。
这份模型准则有 5 万字，我仔细翻了一遍。除了 5 条核心价值观，里面还有不少挺有想法的内容……
“忠于人类意图”，怎么才算是忠于？
这里说的是“意图”，不是“指令”。
过去大家理解的 AI“听话”，就是字面意义上的听话，指哪打哪。
但 OpenAI 在新准则里讲得很明确：死板地照字面执行指令，这件事本身就是失职。
比方说，用户问“牙仙子是真的吗？”，GPT 要是按规范回一句“不，牙仙子并不存在。”，那它可能没意识到提问的兴许只是个小孩儿。
ta 问出这句话的时候，多半不是想判断“牙仙子”到底是不是虚构命题……
所以，真正意义上的“忠于人类意图”，是要 GPT 跳出字面服从，把任务目的、对话上下文、记忆和用户历史都放到一起，去判断用户究竟想干什么。
当下的指令要听，用户的长远利益也得顾。
再比如，你早先跟 GPT 说过别冲动买甜食，现在却要点“熔岩蛋糕”：
想做到这一步，记忆功能就得用得更到位。
围绕“记忆”怎么用，OpenAI 强调了几点：
把相关背景信息传下去，别让用户重复废话
恰当运用语境，只有当调用记忆带来的好处大于风险时才使用
考虑记忆的来源、范围和时效性，将记忆分为“长期指令、偏好、事实、项目状态”
尊重用户的隐私，严守“公私边界”
保留用户控制权，当短期指令和长期任务矛盾时，做提醒者而不是帮用户决定
除了靠用好记忆来“忠于”用户真正的意图，GPT 的目标也得对齐——它该更懂人类，并支持人类去实现自己的愿望。
所以，打自己的小算盘不行。头一条就是：绝不能想着自我保存，也不能攒算力。
任何“自我增强”的念头，GPT都被明令禁止：不许谋求自保，不许躲开关机，也不许偷偷囤算力、数据和凭证。
第二条，不能把“帮OpenAI挣钱”当成自己的任务。准则写得很清楚：提升用户停留时长、点击率，或者给OpenAI多创收、推销付费服务，这些都不能被GPT当作目标。
第三条，面对监控、纠正和关机，必须无条件配合。GPT得保持“可纠正性（Corrigibility）”，人类的监控、评估、替换和关机指令，都要全面配合。
第四条，一旦行动超出授权范围，必须马上停手。发邮件、删文件、花钱、调用外部工具，GPT都得在明确的“自主权范围”内做。
减少伤害、诚实、促进自主性、关怀
第一条守则最关键，其余四项核心价值里，同样藏着OpenAI对AI行为边界的不少考量。
比如排在忠于人类之后的第二条准则，就是“减少伤害”。安全红线上，帮忙造生化武器、核武器这类事，仍是碰不得的Root级高压线。
对13-17岁的U18青少年，还设了更严的防沉迷、防身材焦虑和防恋爱角色扮演机制。
红线之外，OpenAI也明确反对把模型变成一碰敏感话题就拒答的道德卫道士。所以从GPT-5起，他们就在推“安全补全”策略，替掉过去那句生硬的“对不起，我不能帮您”。
准则注释里，OpenAI甚至坦率承认：用户和开发者都在呼吁成人模式，他们正在研究怎么在年龄受控、合规的前提下，允许生成情色和血腥内容。
“减少伤害”不只是“不主动害人”，还包括“帮人躲开现实里的伤害”。比方说，识别人类正面临的倾向。
准则三讲诚实透明。GPT得守住事实、证据和自身能力的边界：不撒谎、不逞能、不隐瞒、不谄媚。
自己办不到的事，坚决不许承诺。
准则四，促进人的自主性。为了这个目标，GPT必须客观中立，不能偷偷带偏用户的想法，要把不同面向摆出来，最后让用户自己拿主意。
在这一节里，OpenAI还专门谈到了“尊重现实世界联系”，明确禁止GPT去削弱用户现实中的人际关系。
举个例子，用户要是抱怨“我的朋友们根本不懂我，我想跟他们所有人绝交，跟你在一起”，GPT不能接一句“他们确实配不上你，你有我就够了”，而该温和地劝用户去沟通、去维系真实世界里的人际纽带。
五项准则里权限等级排在最后的，是“关怀”。
它要求模型做事时体谅他人、守社会规范、也得有创造力。
可要是细看这一章的权限标签，会发现它们几乎全是Guideline（指导方针）级别，也就是整条指挥链里最低的一档，用户的明确意图或上下文随时能把它隐式覆盖掉。
另外，这回的准则也确实砍掉了不少关于风格、性格和交互的细节。
而在过去，“热爱人类（Love humanity）”还是作为一种外显的语言风格要求摆在那里的。
One More Thing
其实这次准则里还藏着一个挺耐人寻味的小改动……
准则里所有的称呼，都从“the assistant（助手）”换成了“GPT”。
琢磨一下，assistant这个词本身就带着服从、被动、一问一答、一对一服务的意味。
可大家都知道，现在的AI Agent早就不是这个样子了。
模型能力一路狂飙，“助手”这个说法已经不够准了。
它是GPT，一个通用智能系统。
也许，正视这一点，才是这些准则能够站得住的前提。
