纽约AI安全法落地:OpenAI、Anthropic须登记披露并上报事故

资讯 AI 科技快讯 作者:赢政天下 全文 1494 字 · 约 4 分钟读完 配图 2 张 分类前沿模型AnthropicOpenAI监管处罚政策监管大模型

纽约州开始执行其范围广泛的AI安全法,要求OpenAI、Anthropic等主要AI开发者完成登记、公开安全实践,并在发生关键事件时上报,违规将面临罚款。这部法律把“登记—披露—上报”的组合拳落到前沿模型身上,也把美国州层面的AI监管推向新阶段,企业合规成本与联邦—州监管博弈随之升温。

所属频道 大厂动态模型发布政策与风险
纽约AI安全法生效,大模型巨头面临强监管
纽约州这部覆盖面很广的AI安全法已进入执行阶段。按照要求,OpenAI、Anthropic等主要AI开发者要在该州完成登记,把自身安全实践对外公开,一旦发生关键事件还得向监管方上报,违规会被罚款。登记、披露、上报这三件事被捆绑着压到前沿模型开发者身上,美国州层面的AI监管由此迈出新的一步,企业合规开支以及联邦与州之间的监管拉扯也跟着升温。
编者按:AI能力迭代的速度快过立法响应,监管者于是去找一种“花钱少、覆盖广”的着力点——不去直接限制模型能力,而是让开发者把安全实践摆到明面上。纽约这部法律,就是这套思路在美国州一级最激进的一次落地。

新规落地:登记、披露、上报,一个都不能少

据TechCrunch报道,纽约州正准备正式执行这部范围广泛的AI安全法。该法规定,OpenAI、Anthropic等主要AI开发者须在州内完成登记,对外披露自身的安全实践,并在发生“关键事件”(critical incident)时向监管机构报告。没有履行这些义务的企业,将面临罚款。

从条文结构看,这套机制并不直接干预模型怎么训练、能力上限设在哪里,而是围绕“透明度”做文章:你是谁、你在做什么、你的安全措施是什么、出了事你怎么说。监管者面对严重的信息不对称,这算是少数能执行下去的选项之一;对企业来说,过去只停留在内部文档和自愿承诺层面的安全治理,第一次被写进有强制力的合规清单。

要点概括:把监管对象登记在册,把可比信息摆到台面上,再让事故上报形成回路——这三点叠在一起,就串成了一条链,一头管“事前准入”,一头管“事后追责”。

为什么是纽约:州级立法的现实路径

美国联邦层面的AI立法长期僵持不下,州一级就成了规则试验场。纽约有两个天然优势:它是全球金融与媒体中心,大量AI企业的客户、投资者和舆论资源集中在这里;它的立法与执法体系也相对成熟,一旦成法,执行阻力比从零搭建新机构要小。

这部法律把矛头对准“主要开发者”而不是所有应用方,原因也在这里。前沿模型的开发高度集中,盯住少数几个实验室,杠杆效应远大于分散监管成千上万的下游应用。对OpenAI、Anthropic这类公司来说,纽约市场很难放弃,合规几乎是必选项。

合规成本与竞争格局的微妙变化

登记与披露本身花不了多少钱,真正的成本在“关键事件”怎么界定、上报流程怎么走:什么算关键事件?由谁判定?上报后是否会触发调查甚至公开?这些问题的答案,将直接决定企业要投入多少法务、安全和公共关系资源。

对头部企业来说,合规门槛反倒可能是一层保护。大实验室本来就有专职的安全与政策团队,新加的义务多半只是改改流程;可对缺钱缺人的中小开发者,同一套要求就是实打实的负担。监管想压的是系统性风险,副作用却可能是让“少数巨头把持前沿模型”的局面更牢。

联邦与州的张力,以及更大的问题

州级强监管还有另一面:跨州经营,合规容易碎成一地。别的州要是跟着上、标准又各定各的,AI企业就可能撞上几十套互相打架的披露模板和事故定义。业内喊了很久的联邦统一框架,因此多了几分现实说服力——倒不是说统一标准更好,而是标准分裂的代价太高。

更根本的疑问还摆在那里:把安全实践披露出来,真能提升安全性吗?透明度是必要条件,也是个有用的起点,可它量的往往是“企业怎么描述自己的安全”,不是“模型到底有多安全”。真正的考验有两条:监管机构有没有技术能力去评估这些披露内容;关键事件报上来之后,会不会真有问责和整改。

纽约这一步,价值可能不在于解决了多少问题,而在于立下了一个先例:前沿AI开发者不能再把安全治理当成关起门来的自家事。接下来要看的是执行力度,以及其他州会不会把这套模板照搬过去。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI与Anthropic出资1500万美元,请数学家检验AI成果

    新智元报道 10月6日,OpenAI一口气公开了722篇由内部AI模型生成的数学手稿。仅过一天,其中3篇就被宣布撤回。让三篇手稿一起翻车的,居然只是一处正负号错误:一篇出了错,另外两篇沿用了同一套构造,也被一并撤回。AI批量交卷之后,两大巨头联手为「验卷」买单。10月15日,Simons基金会宣布,与OpenAI、An

    来源 腾讯网
  2. PSI用AI破解量子计算二十年难题,想把科学发现做成生意

    AI初创公司PSI借助Anthropic尚未公开发布的大模型,解决了一个困扰量子计算领域近二十年的基础性问题。这家公司正试图把“AI驱动科学发现”从实验室里的惊艳演示,变成一门可持续的生意。在AI for Science赛道持续升温的当下,PSI的尝试既展现了前沿模型在基础科研中的潜力,也暴露出模型依赖、科学验证与商业

    来源 AI 行业观察
  3. Anthropic阿莫代伊描绘AI乌托邦,OpenAI却连报六起模型失准

    在一篇题为《慈爱的机器》的长文里,Anthropic首席执行官达里奥·阿莫代伊描绘了一个令人向往的未来:AI帮助人类攻克疾病、改善精神健康、减少贫困,甚至推动和平与更好的治理……事实上,不仅阿莫代伊,众多AI先驱都对AI抱有很高的期待。但过去的两周,AI世界出现了极其矛盾的一幕。一边是能力的狂飙,宣称AI在编程、科研.

    来源 腾讯网
  4. AI抄袭盯上独立游戏:开发者藏demo,Claude Code也改规则

    自从有了AI之后,制作一款游戏门槛变得更低,而破解乃至抄袭一款游戏的成本也在急速下降。 于是游戏行业中逐渐出现了别样的悲观情绪。今年已经有许多独立游戏开发者选择藏起自己的游戏demo,希望以此避免被利用AI做出仿制品、甚至抢在原作之前发售。 不仅开发者们在接受并适应这样的情况,平台也在做出应对。前段时间有用户发现Cla

    来源 AI 行业观察
  5. Anthropic推Claude Fable 5.2:编程超GPT-6 Astra

    IT之家 11 月 10 日消息,Anthropic 今天(11 月 10 日)发布 Claude Fable 5.2 与 Claude Mythos 5.2 两款前沿 AI 模型。官方称,新模型在编码、推理、科学研究、网络安全及机器人等领域均有显著提升,同时输出速度最高提高 30%,成本下降 20%。 根据官方披露的

    来源 AI 行业观察
  6. OpenAI上线Control Room:模型任务失控最长35秒可阻断

    OpenAI近日宣布已在内部研究基础设施中部署名为Control Room的中央控制系统,统一追踪强化学习训练、模型评估、智能体采样及数据处理等研究任务。当模型任务引发安全或网络安全风险时,该系统可在收到停止指令后最长35秒内阻断模型继续输出。系统采用故障关闭机制,若控制室发生故障、被关闭或遭篡改,相关推理请求默认被拒

    来源 凤凰科技
  7. Anthropic冲刺纳斯达克:最早11月16日挂牌,S-1揭出8954亿算力账单

    Anthropic 已正式公开提交 S-1 招股说明书,计划最早在 11 月 16 日当周在纳斯达克挂牌上市。据《华尔街日报》和路透社报道,公司尚未公布首个交易日,但在股票开始交易前,高管和承销商需完成投资者路演、确定发行价格,并获得监管机构的最终批准。如果一切顺利,这不仅是今年最受瞩目的科技新股,也将成就人类金融史上

    来源 AI 行业观察
  8. OpenAI收购Odessia:旅游初创入手,AI智能体落地场景怎么走

    TechCrunch报道,OpenAI已收购由Sonder创始人Francis Davidson创办的旅游初创公司Odessia,但未公布具体旅游业务计划。Davidson是旅游行业知名创业者,此次收购被解读为OpenAI将AI能力延伸至旅行场景的关键一步。本文梳理交易背景、创始人履历与行业影响。

    来源 AI 科技快讯
  9. 联想万全混合词元工厂发布:企业AI转向混合架构

    AI仍然处于被发明的过程中。Anthropic最快在下周上市,但在它提出的40万亿美元的知识工作经济中,真正得以验证的,即使加上OpenAI,也仅千亿美元左右,且以AI编程为主。2027年,首先需要被发明的,仍然是企业AI。但Anthropic只是企业AI的一种答案,远称不上全部。企业AI的市场空间,并不等于模型API

    来源 腾讯网
  10. OpenAI上线“控制室”:35秒内可掐断失控AI智能体

    AI 智能体一旦跑偏,人类还能不能拉得住缰绳?OpenAI 在 11 月 10 日给出了一道新保险——名为"控制室"的系统已在内部研究设施上线,专门用来掐断有风险的 AI 任务,最快能在 35 秒内叫停一只失控的智能体。 从"报警"升级到"断供" 传统监控只会给可疑行为贴标签,而控制室走的是主动阻断路线。它把智能体训练

    来源 AI 开发者社区
  11. Anthropic估值从2万亿降到1万亿,国内大模型公司压力来了

    导语:从2万亿美元到1万亿美元,全球AI估值体系正在经历一次现实检验。Anthropic的IPO,原本被视为全球人工智能产业的一场资本盛宴。这家Claude大模型的开发商,计划登陆纳斯达克,成为全球资本市场第一批接受公开市场检验的顶级AI实验室之一。按照此前投资者的预期,其上市估值一度有望达到2万亿美元。但这场盛宴还没

    来源 腾讯网
  12. Anthropic推企业办公工具:IPO路演日挑战微软Office

    Anthropic在启动IPO路演当天密集推出一系列企业办公工具,覆盖视频会议、电子表格、团队白板和企业数据分析等场景。在首次公开募股进入关键阶段之际,这家公司进一步展示了Claude在基础模型之外的企业应用布局,试图向投资者证明其商业化潜力不只来自AI模型本身,也来自对企业办公市场的持续渗透。美东时间10日周二,An

    来源 腾讯网
  13. 华尔街给 AI 热泼冷水:Anthropic 冲刺"史上最大 IPO"遇降温

    AI 叙事最炽热时,Anthropic 端出了科技史上最大一桩上市交易。据《华尔街日报》11 月 10 日报道,这家 Claude 模型的开发商正推进 IPO,目标 11 月 19 日或 20 日登陆纳斯达克,股票代码拟定为 ANT,本周初披露估值区间与发行价。 2 万亿美元的幻想先退潮 此前市场一度把估值炒到接近 2

    来源 AI 开发者社区
  14. Anthropic 34亿美元买1.7吉瓦发电机,AI算力竞争转向自备电源

    Anthropic于2026年9月与OnePWR Solutions签署34亿美元合同,购入1.7吉瓦重型燃气发电机及工程安装能力。该交易在IPO前夕披露,是已知AI实验室最大单笔自建电力采购。公司已承诺到2045年算力支出接近9000亿美元,此举标志其从依赖合作方转向能源自主。媒体报道聚焦AI竞赛向能源主权延伸,反映

    来源 AI 行业观察
  15. Anthropic斥资34亿美元购入天然气轮机,AI能源竞赛再添新玩家

    AI算力扩张正把电力变成最稀缺的资源。TechCrunch报道,Anthropic斥资34亿美元购买天然气轮机,为数据中心锁定长期电力。但这笔交易也埋下隐忧:燃料价格波动、碳排放压力、设备交付周期和社区阻力,都可能让这家AI公司产生“买家懊悔”。当AI巨头纷纷转向化石能源,一场关于速度与可持续性的博弈正在展开。

    来源 AI 行业观察
  16. Anthropic推办公套件:AI进会议表格,硬撼微软谷歌

    据彭博社报道,Anthropic将发布一套办公工具,把AI能力融入日常办公,包括视频会议助手、数据仪表盘和名为Claude Sheets的电子表格服务。此举将使Anthropic与投资方微软、谷歌展开更激烈竞争。

    来源 凤凰科技
  17. Adobe上线Firefly原型工具,设计工作流争夺战开打

    Adobe在Firefly中上线原型构建工具,用户可用自然语言生成可交互的产品原型,直接对标Figma的核心场景;同时Adobe发布自家MCP服务,让Claude、ChatGPT等AI代理能够调用其创意工具链。这是Adobe在收购Figma失败后,以AI重构设计工作流的关键一搏,也标志着创意软件的竞争正从功能层面转向A

    来源 AI 科技快讯
  18. OpenAI收购Odessia:戴维森携AI旅行智能体入局

    Odessia 成立仅一年便获红杉资本领投的 600 万美元种子前融资,其 AI 旅游智能体可帮用户规划价值数百万美元的行程。创始人戴维森曾创办 Sonder,此番携旅游行业经验加盟 OpenAI。#OpenAI收购Odessia#

    来源 IT之家
  19. 宇树科技涨超10%!人形机器人概念走高,机构:物理AI拐点正在加速

    11月10日,人形机器人概念大面积走强,宇树科技涨超10%,总市值逼近3200亿!机器人ETF招商(560770)直线冲高,标的指数上涨2.95%。权重股中控技术涨超6%,三花智控、绿的谐波、三花智控、拓普集团涨超3%,科大讯飞、恒立液压、双环传动纷纷上涨。全球科技巨头纷纷加码物理AI。9月以来,OpenAI、Anth

    来源 腾讯网
  20. Anthropic推进IPO:估值区间或本周敲定,Claude开发商冲刺上市

    据《华尔街日报》报道,AI明星公司Anthropic计划推进IPO,预计本周确定估值范围。作为Claude系列模型的开发商,Anthropic若成功上市,将成为生成式AI领域最受瞩目的公开市场事件之一,也为其他AI独角兽的资本化路径提供重要参照。具体估值和上市时间表尚未披露。

    来源 AI 科技快讯
  21. Anthropic内部调查:AI研发提速1.7倍,超级智能或2027年到来

    阅读之前记得关注+星标⭐️,,每天才能第一时间接收到更新 最前沿的AI正在以超乎想象的速度替人类研发下一代AI,整个智能爆炸的时间表已经被彻底推前到了2027年。这是AI Futures Project最新发布的核心结论。而Anthropic 今天在更新的 S-1招股书中也从侧面做出确认,根据“整体 AI 研发进展的显

    来源 腾讯网
  22. Claude Meetings上线:会议中实时起草方案,Anthropic进军办公协作

    Anthropic 推出 Claude Meetings,让 Claude 在会议进行中同步起草方案、在白板上绘制时间线、在聊天中答疑,并可调用已连接的工作应用检索数据。这标志着 AI 会议助手从“会后记录”转向“会中执行”,也意味着 Anthropic 正式向办公协作前台挺进。

    来源 AI 科技快讯
向下滚动自动加载更多