纽约推出 AI 监管新规，OpenAI、Anthropic 需 72 小时内上报安全事故

IT之家 11 月 11 日消息，纽约州正准备实施美国最重要的人工智能安全法规之一。该州周二正式开放了一个监管登记平台，Anthropic、OpenAI 等大型前沿 AI 开发商必须在 2027 年 1 月 1 日前完成注册。

这项名为《负责任人工智能安全与教育法案》（RAISE Act）的法规，是纽约州推出的一项 AI 安全与透明度法案，将于 2027 年初正式生效。根据规定，年营收超过 5 亿美元（IT之家注：现汇率约合 33.44 亿元人民币）的大型前沿 AI 开发商必须在各自网站上公布安全框架，在发生重大安全事故后 72 小时内向监管部门报告，并公开模型透明度报告。

新成立的数字创新、治理、诚信与信任办公室（DIGIT）将负责落实 RAISE Act，并监督大型前沿 AI 实验室的运营情况。违反法规的企业，每次违规最高可能面临 100 万美元（现汇率约合 668.8 万元人民币）罚款，后续违规的罚款金额最高可达 300 万美元（现汇率约合 2,006.3 万元人民币）。

此外，对于未通过新登记平台完成注册的企业，纽约州也有权采取执法行动。不过，州政府发言人拒绝透露具体的处罚措施。

纽约州州长凯西 · 霍楚尔（Kathy Hochul）当地时间周二在新闻发布会上表示：“科技巨头告诉我们，他们眼中的 AI 发展道路是不可避免的。他们让我们要么跟上，要么被时代抛弃…… 他们还认为，只要我们赢得这场奔向 AI 悬崖的竞赛，过程中出现的任何附带损害都是值得的。”

周二，霍楚尔还宣布成立纽约州人工智能责任与研究中心。该中心设在纽约州立大学宾厄姆顿分校，将独立评估先进 AI 系统的安全性、可靠性和运行状况，并与 DIGIT 合作，审查各家企业提交的安全框架。霍楚尔最早于今年 1 月公布了该中心的成立计划，当时获得了 5,500 万美元（现汇率约合 3.68 亿元人民币）的捐款和建设资金支持。

霍楚尔表示：“我们正在打造一个全国性的 AI 监管范例，既要科学合理，也要切实可行。这个范例将把社区利益置于企业利益之上，把人的利益置于强大技术之上。”

RAISE Act 并不是纽约州通过的唯一一项 AI 安全法规。去年，该州已经开始实施一项针对 AI 陪伴服务的法律，要求相关运营商定期提醒用户，他们正在与聊天机器人交流，同时采取合理措施，识别用户可能存在的自杀倾向或自残行为。

今年 10 月，霍楚尔又签署了另一项针对未成年人的聊天机器人安全法案。该法案限制 AI 聊天机器人进行欺骗性拟人化互动、提供带有情感操纵性质或一味迎合用户的回复，同时禁止鼓励自杀、饮食失调等有害行为。该法律将于 2027 年 6 月 1 日生效。

美国其他州也陆续通过了与 RAISE Act 类似的 AI 安全和透明度法规。

加利福尼亚州的 SB 53 法案已于今年 1 月生效，要求前沿 AI 实验室建立并公开安全框架，为内部举报人提供保护，并在发生重大安全事故后 15 天内向监管部门报告。

伊利诺伊州的 SB 315 法案则计划于 2027 年初生效，其要求与上述法规类似，同时增加了独立安全合规审计制度。