Anthropic上市前触发自身安全警报:AI进展速度超预期

资讯 华尔街见闻 全文 1781 字 · 约 5 分钟读完 配图 1 张 分类AnthropicMETR上市

Anthropic在IPO文件中披露,AI研发进展速度已触发公司额外安全机制。评估机构METR发现,Anthropic过去一年的技术进展相当于此前两年,AI参与自身研发正加速这一进程。递归自我改进带来的失控风险,也引发AI安全领域担忧。

所属频道 大厂动态融资与资本

Anthropic即将登陆华尔街之际,却在上市文件中披露了一项安全警报:公司AI研发进展速度已达到自身设定的安全阈值,必须启动额外安全控制措施。

11月19日,据英国《金融时报》报道,Anthropic在更新后的IPO申报文件中承认,其技术进展速度已触发2023年制定的“负责任扩展政策”(Responsible Scaling Policy)中的额外安全机制。这一披露恰逢公司将IPO发行价定为每股83美元,高于此前指引区间,估值约达1.5万亿美元之际。

触发安全机制的依据,来自AI评估机构METR本月发布的一份报告。该机构在获得Anthropic系统、人员及未发布模型的广泛访问权限后发现,Anthropic过去一年的AI能力进展相当于此前约两年的历史进展。研究人员借助AI工具加速自身研发,正成为推动这一趋势的重要因素。

AI进展速度翻倍,触发内部安全机制

METR是一家专注于评估前沿AI能力及风险的研究机构。其最新报告显示,Anthropic过去12个月实现了约两年的历史技术进展,能力提升速度较此前一年大约翻倍。

这一速度触及Anthropic自身设定的安全阈值。根据公司2023年制定的政策,当AI发展速度达到将过去两年的技术进展压缩至一年内实现的程度时,公司必须执行更严格的安全监督措施。

Anthropic表示,此次判断基于对未来模型能力的预期及整体进展速度,并不意味着AI系统已经能够完全自主改进。新增措施将涉及安全保障、治理架构以及模型开发过程中的内部审查。

Anthropic高管Sam McCandlish回应称,METR报告中的许多结论与自己的判断一致。他承认,AI正在加速公司的研究工作,但这一影响仍难以精确量化。

AI参与自身研发,递归改进风险升温

技术进展提速背后,是AI开始越来越多地参与下一代AI系统的研发。这一过程被称为“递归自我改进”(RSI),即AI系统利用自身能力协助开发更强大的后续模型。

Anthropic在招股说明书中将一个模型协助构建下一个模型的“闭环”研发能力,列为自身相较竞争对手的重要优势,并称其已显著提升算力使用效率。

但这一能力也带来新的安全风险。Apollo Research首席执行官Marius Hobbhahn表示,研究人员此前对递归自我改进的实现时间存在很大分歧,如今这一时间窗口正迅速缩短,而行业的安全准备远未到位。

AI安全机构“AI未来项目”(The AI Futures Project)认为,METR报告揭示的加速趋势出乎意料,并预测超人类AI研究员很可能在2027年某个时间点出现。该机构认为,暂停或实质性放缓前沿AI开发已十分迫切。

Anthropic首席执行官Dario Amodei去年9月也曾提出,应为AI递归自我改进的速度设置某种“速限”,因为相关进展可能快得令人咋舌。

安全定位遭质疑,外部批评升温

Anthropic披露安全机制触发之际,外部对其安全定位的质疑也在升温。

周三,由非营利机构“AI安全中心”(Center for AI Safety)牵头,一个包括Hugging Face及xAI创始人在内的AI研究人员和安全倡导者联盟发表公开声明,指责Anthropic利用安全品牌吸引投资者、员工和公众,并直言其“并非一家安全的AI公司”。

声明特别指出,Anthropic一方面警告递归自我改进可能导致权力集中和人类失去控制,另一方面却在竞相开发相关技术。

类似担忧也出现在AI行业内部。OpenAI董事会成员、AI安全研究员Paul Christiano近日在一档播客节目中表示,AI开发自动化程度不断提高,可能在短时间内推动极其强大的AI出现。如果行业经历快速的智能爆炸并走向超级智能,人类可能最终无法控制所开发的系统。

Hobbhahn则认为,即使Anthropic IPO失败、AI融资市场陷入低迷,也未必能够阻止技术继续跃升。他表示,现有AI实验室拥有足够资金推进至少两轮重大技术突破,即使市场泡沫破裂,也可能诞生远超人类能力的模型。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Anthropic上市首日破发:2万亿市值难撑,AI股集体下挫

    出品 | 妙投APP作者 | 董必政编辑 | 丁萍头图 | 视觉中国美东时间11月19日中午,纳斯达克的钟声为Anthropic而响。这是一家成立近六年的公司,做大模型的,名字大部分A股股民还念不顺。它的IPO定价83美元,公开发行9.8亿股,募资813.4亿美元;加上谷歌、英伟达等七家产业伙伴按发行价认购的260亿美

    来源 腾讯网
  2. Anthropic上市为何没能“救”AI行情?华尔街:下周一或成关键窗口

    财联社11月20日讯(编辑 黄君芝)Anthropic这场史上规模最大的IPO,给公司及其投资者带来了一场大胜。该股周四收涨17.07%报97.17美元,市值为1.271万亿美元,在全球上市公司中排第12名,介于特斯拉和伯克希尔之间。但这场史诗级IPO没能完成另一项市场期待:重振AI交易的热情。三大指数周四均跌超2%,

    来源 腾讯网
  3. Anthropic上市首日冲高回落:开盘涨34%,收盘涨幅收窄至17%

    周四,Anthropic史上最大规模IPO登陆市场,开盘一度大涨逾38%,AI交易看似迎来强力背书。然而,这场盛宴来得快,去得也快——美股全天高开低走,标普500收跌2%,纳指跌2.25%。做空机构突袭AMD、逾千亿IPO抽干流动性、负Gamma仓位创五年极值……AI盛宴变成了美股压力测试。

    来源 华尔街见闻
  4. 史上最大IPO落地!Anthropic首秀开盘涨34%、市值突破2万亿

    AnthropicIPO公开募资813亿美元、估值1.5万亿;开盘超过暗盘预示涨幅26%,开盘市值超越SpaceX美股首秀时、位居全球第六,仅次于Mag 7中特斯拉和Meta之外的五巨头;股价盘中曾涨近39%,后回吐过半涨幅;CEO敲钟时承诺不屈服于商业和政治压力,强调AI安全及医学突破。风投人士将此次IPO誉为“谷歌

    来源 华尔街见闻
  5. Anthropic 上市创纪录:七位创始人套现近 20 亿美元

    2026 年 11 月,AI 公司 Anthropic 以每股 83 美元完成 IPO,七位联合创始人每人套现约 2.8 亿美元,合计近 20 亿美元,公司则获得近 1050 亿美元。这场被多次上调定价的上市交易,不仅刷新了 AI 行业纪录,也让外界重新审视生成式 AI 的资本狂欢与创始人退出时机。

    来源 AI 科技快讯
  6. Anthropic上市,10个值得关注的真相

    一家公司上市,募资813亿美元,首日市值一度突破2万亿美元。 毫无疑问,Anthropic创造了美国资本市场新的IPO纪录。 但这场IPO值得关注的,远不只是一个一批百万富翁,或者一家公司创造了多少融资纪录。 它更像一次集中展示,AI产业积累多年的技术价值、私人财富、资本承诺和商业风险,正在同一天被摆上台面。 这背后哪

    来源 AI 行业观察
  7. Anthropic纳斯达克上市:首日涨17%,募资813亿美元创IPO纪录

    AI 公司 Anthropic 于当地时间 11 月 19 日在美国纳斯达克上市,首日股价以 97.17 美元收盘,较 83 美元的发行价上涨 17.07%。该股开盘即报 111.5 美元,较发行价高出约 34.3%;盘中一度突破 115 美元,随后回落至 100 美元下方。

    来源 IT之家
  8. Anthropic IPO定价83美元,高于预期区间

    据TechCrunch报道,人工智能公司Anthropic将其备受期待的IPO发行价定为每股83美元,高于此前70至78美元的初始区间。这一结果显示出投资者对处于AI热潮中心的公司依然抱有强烈兴趣,即便在英伟达CEO黄仁勋离职引发市场不安、行业信心受挫的背景下,市场对头部AI企业的追捧仍未降温。Anthrop

    来源 AI 科技快讯
  9. Anthropic IPO慈善注资1560亿美元:每股95美元如何分配

    据TechCrunch报道,AI前沿实验室Anthropic若以每股95美元的价格进行IPO,其公共福利基金会、员工捐赠及公司配捐合计将达到1560亿美元。这一数字不仅彰显了AI公司的巨大商业价值,也展现了将财富回馈社会的创新制度设计,引发业界对科技企业社会责任的重新思考。

    来源 AI 科技快讯
  10. Anthropic登陆纳斯达克:开盘涨34.3%,市值冲破2万亿美元

    11月19日晚,史上最大IPO,正式敲钟! 这一次,Anthropic真的创造了历史,开盘之后,一路冲上了2万亿美金。 北京时间11月20日00:48,Anthropic(纳斯达克代码ANT)终于撮合出上市后的第一笔交易。 开盘价每股111.50美元,比83美元发行价暴涨34.3%,比IPO路演定价区间的70美元下限更

    来源 AI 行业观察
  11. Anthropic纳斯达克上市首日涨17%,市值1.27万亿美元

    IT之家 11 月 20 日消息,AI 公司 Anthropic 于当地时间 11 月 19 日在美国纳斯达克上市,首日股价以 97.17 美元(IT之家注:现汇率约合 649.2 元人民币)收盘,较 83 美元(现汇率约合 554.5 元人民币)的发行价上涨 17.07%。 该股开盘即报 111.5 美元(现汇率约合

    来源 AI 行业观察
  12. Anthropic完成史上最大IPO:开盘冲高回落,盘后再跌4.8%

    股价在首个交易半小时内较开盘价回落约13%,此后持续走低,收盘报97.17美元,较发行价上涨17.07%,但较开盘价回吐了半数涨幅。盘后,股价继续下跌4.8%。更具信号意义的是,Anthropic的IPO本身并未提振AI板块:纳指早盘一度涨超2%,但在Anthropic开盘后迅速掉头向下。Anthropic以史上最大I

    来源 TechWeb
  13. Anthropic IPO开盘回落:83美元发行价,创始人近200亿身家

    股价在首个交易半小时内较开盘价回落约13%,此后持续走低,收盘报97.17美元,较发行价上涨17.07%,但较开盘价回吐了半数涨幅。盘后,股价继续下跌4.8%。更具信号意义的是,Anthropic的IPO本身并未提振AI板块:纳指早盘一度涨超2%,但在Anthropic开盘后迅速掉头向下。Anthropic以史上最大I

    来源 TechWeb
  14. Anthropic上市:发行价83美元,阿莫迪从GPT-2警示到敲钟

    美国时间11月19日,Anthropic正式登陆纳斯达克,以“ANT”为股票代码挂牌,创下了全球史上最大规模IPO纪录。就在上市前一天,Anthropic将发行价定在每股83美元,并将发行数量从8.25亿股增加到9.8亿股,最终公开发行规模达到813.4亿美元。按发行价计算,这家成立不到六年的AI公司,完全稀释估值约为

    来源 腾讯网
  15. Anthropic上市当天遭抗议,离职研究员呼吁必须关闭这项AI技术

    北京时间11月20日,Anthropic前研究员雅各布·考克森在Anthropic旧金山总部外现身,向抗议者公开呼吁禁止人工智能系统的递归自我改进(RSI),并称“他们应该禁止RSI,关掉它”。报道称,RSI可能加速AI能力发展,也引发对AI失控风险的担忧。

    来源 凤凰科技
  16. Anthropic IPO定价83美元:高于70至78美元区间

    据TechCrunch报道,人工智能公司Anthropic将其备受期待的IPO发行价定为每股83美元,高于此前70至78美元的初始区间。这一结果显示出投资者对处于AI热潮中心的公司依然抱有强烈兴趣,即便在英伟达CEO黄仁勋离职引发市场不安、行业信心受挫的背景下,市场对头部AI企业的追捧仍未降温。Anthropic的上市

    来源 AI 行业观察
  17. Anthropic上市首日:市值冲$1.76万亿,算力账单$895亿

    2026年11月20日,Anthropic以ANT为代码在纳斯达克挂牌,开盘价$111.50较发行价$83上涨34%,盘中市值短暂突破2万亿美元,收盘回落至$97.17,完全稀释市值定格$1.76万亿。这是有史以来最大IPO,募资$813亿超越今年6月SpaceX的$750亿纪录。但招股书同时披露:上半年净亏

    来源 AI 科技快讯
  18. Anthropic上市:发行价83美元,收盘市值约1.27万亿美元

    当地时间11月19日上午,Anthropic以破纪录的方式登陆纳斯达克。Anthropic的发行价格为83美元,收盘价格为97.17美元,收盘市值约为1.27万亿美元。公司七位联合创始人持有的股票价值都将超过200亿美元,成为名副其实的亿万富翁。本次IPO的募资额度约为813亿美元,也超过了此前SpaceX创造的750

    来源 腾讯网
  19. Anthropic IPO股权曝光:亚马逊持股14.7%,谷歌13.7%

    11月17日(周二), Anthropic 披露了与其核心云服务商 亚马逊 和 谷歌 达成的最大投资协议细节,明确在 首次公开募股 后,亚马逊与谷歌将分别持有其14.7%和13.7%的股份,合计接近30%。 亚马逊在2023年至2024年(Claude Code席卷企业界前、Anthropic尚处O

    来源 AI 开发者社区
向下滚动自动加载更多