ChatGPT升级暴力内容限制：多次违规或封号

OpenAI 近日正式宣布，未来几周内将对 ChatGPT 的暴力相关内容限制做全面升级，同时面向未成年人用户推出更严的武器与安全系统信息防护机制。

这次调整的重点，是对高风险对话采取更果断的干预。按照新公布的措施，一旦系统检测并评估出用户的对话持续聚焦于暴力或严重伤害他人的想法，ChatGPT 将能主动结束对话。处罚还会叠加：用户若因这类问题被系统多次终止对话，账号可能被暂停使用，甚至直接封禁。内容过滤的边界也在扩。原有政策一如既往禁止提供任何帮助用户策划或实施暴力行为的操作指导，此次限制范围进一步延伸到历史层面：模型对“过去大规模袭击事件及其实施者”相关问题的回答细节将大幅缩减，甚至直接拒绝回答。受限的不只是重现袭击过程所涉及的武器、装备及其获取途径，还包括用户查询旨在放大袭击者知名度的伤害规模详细比较。这一系列限制面向全体用户，不区分年龄段与提问目的，成年用户做相关查询同样受约束。

面向全体用户的通用限制之外，OpenAI 对被识别为未满18周岁的青少年群体又加了一层精细化保护。系统会针对性限制可能被用于实施暴力的武器和安全系统的实用信息，即便相关提问表面上看不出直接的暴力意图，这项保护也会自动触发。不过 OpenAI 强调，青少年依然可以正常通过 ChatGPT 寻求帮助，比如学习如何预防或缓和暴力，或是获取与可信赖成年人取得联系的有效指导。

为了让青少年保护机制精准落地，OpenAI 引入了改进后的年龄预测机制。该机制结合用户日常行为等多维度信号，持续对账号是否属于未成年人做动态评估，并在适当时机自动匹配相应保护措施。如果账号被系统误判为未成年人，用户也可以主动提交身份信息进行验证与调整。