Anthropic上市前触发自身安全警报:AI进展速度超预期

资讯 腾讯网 作者:华尔街见闻 全文 1219 字 · 约 4 分钟读完 配图 1 张 分类ScalingAnthropic产品更新上市金融 AI政策监管

Anthropic即将登陆华尔街之际,却在上市文件中披露了一项安全警报:公司AI研发进展速度已达到自身设定的安全阈值,必须启动额外安全控制措施。11月19日,据英国《金融时报》报道,Anthropic在更新后的IPO申报文件中承认,其技术进展速度已触发2023年制定的“负责任扩展政策”(Responsible Scal

所属频道 大厂动态产品更新融资与资本行业落地政策与风险

Anthropic即将登陆华尔街之际,却在上市文件中披露了一项安全警报:公司AI研发进展速度已达到自身设定的

11月19日,据英国《金融时报》报道,Anthropic在更新后的IPO申报文件中承认,其技术进展速度已触发2023年制定的“负责任扩展政策”(Responsible Scaling Policy)中的额外安全机制。这一披露恰逢公司将IPO发行价定为每股83美元,高于此前指引区间,估值约达1.5万亿美元之际。

触发安全机制的依据,来自AI评估机构

AI进展速度翻倍,触发内部安全机制

METR其最新报告显示,Anthropic过去12个月实现了约两年的历史技术进展,能力提升速度较此前一年大约翻倍。

这一速度触及Anthropic自身设定的

Anthropic表示,此次判断基于对未来模型能力的预期及整体进展速度,并不意味着AI系统已经能够完全自主改进。新增措施将涉及安全保障、治理架构以及模型开发过程中的内部审查。

Anthropic高管Sam McCandlish回应称,

AI参与自身研发,递归改进风险升温

技术进展提速背后,是AI开始越来越多地参与下一代AI系统的研发。这一过程被称为“递归自我改进”(RSI),即AI系统利用自身能力协助开发更强大的后续模型。

Anthropic在招股说明书中将一个模型协助构建下一个模型的“闭环”研发能力,列为自身相较竞争对手的重要优势,并称其已显著提升算力使用效率。

但这一能力也带来新的安全风险。Apollo Research首席执行官Marius Hobbhahn表示,研究人员此前对递归自我改进的实现时间存在很大分歧,如今这一时间窗口正迅速缩短,而行业的安全准备远未到位。

AI安全机构“AI未来项目”(The AI Futures Project)认为,

Anthropic首席执行官Dario Amodei去年9月也曾提出,应为AI递归自我改进的速度设置某种“速限”,因为相关进展可能快得令人咋舌。

安全定位遭质疑,外部批评升温

Anthropic披露安全机制触发之际,外部对其安全定位的质疑也在升温。

周三,由非营利机构“AI安全中心”(Center for AI Safety)牵头,一个包括Hugging Face及xAI创始人在内的AI研究人员和安全倡导者联盟发表公开声明,指责Anthropic利用安全品牌吸引投资者、员工和公众,并直言其“并非一家安全的AI公司”。

声明特别指出,Anthropic一方面警告递归自我改进可能导致权力集中和人类失去控制,另一方面却在竞相开发相关技术。

类似担忧也出现在AI行业内部。OpenAI

Hobbhahn则认为,即使Anthropic IPO失败、AI融资市场陷入低迷,也未必能够阻止技术继续跃升。他表示,现有AI实验室拥有足够资金推进至少两轮重大技术突破,即使市场泡沫破裂,也可能诞生远超人类能力的模型。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Anthropic上市在即:估值最高1.4万亿美元,散户抢购热情或超SpaceX

    IT之家 11 月 18 日消息,据路透社今天(18 日)晚间报道,华尔街正为 Anthropic 可能创下纪录的 IPO 提前造势。金融机构不仅推出了挂钩 Anthropic 股票的投资产品,还举办客户活动、派发周边商品。 市场预计,高净值投资者和散户届时将展开激烈的股票争夺。 尽管过去几周超大规模云服务商和其他 A

    来源 AI 行业观察
  2. Anthropic IPO定价83美元:80余位学者发声明质疑其安全性

    【TechWeb】11月18日,Anthropic正式确定IPO发行价为每股83美元,高于此前70-78美元的指导区间;公司连同部分股东共发行约9.8亿股A类普通股,公开发行筹资约813亿美元,叠加向谷歌、英伟达、微软等战略投资者的260亿美元私募配售,合计融资规模突破944亿美元,超越SpaceX今年6月创下的纪录,

    来源 腾讯网
  3. Anthropic IPO成底牌,AI股神第三次重建启动

    25岁“AI股神”Aschenbrenner正筹划重启对冲基金Situational Awareness,计划重引杠杆并向外部募资,内部称之为“Situational Awareness 2.0”。恰逢其持有约50亿美元股份的Anthropic本周启动IPO,为重建计划提供重要支撑。

    来源 华尔街见闻
  4. Anthropic冲击IPO:亚马逊持股15%,募资或超SpaceX

    11月18日,据财闻海外资讯援引韩联社报道,在美国SEC提交的申报文件当中,Anthropic完成IPO及私募配售之后,亚马逊(AMZN.US)持股约15%,谷歌持股约14%。亚马逊将持有N类无投票权股份19.2亿股(占N类股份总数的34%)。若亚马逊放弃持股上限约定,将所持可转换债券全部转股,最多可拿到Anthrop

    来源 腾讯网
  5. 黄仁勋辞任英伟达CEO后表态愿回归,董事会称无意重新任命

    英伟达完成创始人离任后治理重置:Q3营收1158亿美元、订单积压2.5万亿美元,停售H200并设董事会出口管制委员会;美出口管制扩至第三国远程算力,AI基础设施碎片化。Anthropic拟以约1.4万亿美元估值IPO,算力成本进入公开验证。微软Ignite将Office/Copilot升级为智能体工作系统,推跨供应商A

    来源 AI 行业观察
  6. Anthropic上市在即,亚马逊谷歌将合计持股近30%

    Anthropic完成IPO后,亚马逊将持有其略低于15%的股份,并保留大幅增持的选项;谷歌以近14%的持股紧随其后。两大云计算巨头合计持股接近30%,成为这家Claude开发商上市后最重要的战略股东,也引发外界对AI模型层与云基础设施深度绑定的关注。

    来源 AI 科技快讯
  7. Anthropic登陆纳斯达克:每股83美元,7位创始人百亿身家

    Anthropic即将开启自己的造富之路。这家以Claude大模型出圈的AI公司,定于当地时间11月19日在纳斯达克挂牌,股票代码ANT。 此前一日,Anthropic将其IPO的A类普通股定价为每股83美元,这一定价高于该公司此前的预估。Anthropic表示,此次发行包括980,000,000股A类普通股,其中95

    来源 AI 行业观察
  8. 红杉资本、光速创投等股东拟在 Anthropic IPO 中追加上十亿美元

    AI赛道资本热度攀升。知情人士称,AI初创公司Anthropic PBC发展势头强劲、商业潜力可观,多位核心早期风投股东拟在其即将到来的IPO中追加投资。顶级资本以真金白银加码未来。在全球大模型竞争中,Anthropic凭借前沿技术研发和企业级市场表现突出,备受资本青睐。

    来源 AI 产业速递
  9. Anthropic获纳斯达克上市许可:代码ANT,发行价70至78美元

    SEC 昨日(11 月 17 日)公示的注册文件显示,Anthropic 的 A 类普通股已获准登陆纳斯达克全球精选市场——三个层级中门槛最高的“优质大公司”板块,股票代码定为"ANT",发行价区间维持每股 70 至 78 美元(约合 467.5 至 521 元人民币)不变。这桩冲击史上最大 IPO

    来源 AI 开发者社区
  10. 黄仁勋辞任英伟达CEO后表态愿回任,董事会明确拒绝

    英伟达完成创始人离任后治理重置:Q3营收1158亿美元、订单积压2.5万亿美元,停售H200并设董事会出口管制委员会;美出口管制扩至第三国远程算力,AI基础设施碎片化。Anthropic拟以约1.4万亿美元估值IPO,算力成本进入公开验证。微软Ignite将Office/Copilot升级为智能体工作系统,推跨供应商A

    来源 钛媒体
  11. Anthropic 登陆纳斯达克:代码"ANT",发行价 70 至 78 美元

    11月17日SEC公示文件显示,Anthropic的A类普通股已获准登陆纳斯达克全球精选市场——三个层级中门槛最高的优质大公司板块,代码“ANT”,发行价区间维持每股70至78美元。公司拟公开发行8.25亿股A类普通股,并搭配260亿私募融资,向史上最大IPO再进一步。

    来源 AI 产业速递
  12. 花旗对AI理财代理踩刹车:账户被黑损失客户自担

    TechCrunch报道,花旗成为最新一家对个人理财AI代理踩刹车的金融机构。越来越多银行向客户发出信号:若允许AI代理代为操作账户、转账或投资,一旦代理被黑客攻击或造成损失,客户可能需自行承担。文章分析银行免责背后的授权边界、安全漏洞与责任真空,并讨论对用户、金融AI创业公司和监管的潜在影响。

    来源 AI 科技快讯
  13. 机构:AI芯片散热升级,金刚石应用由芯片近端扩热延伸至封装与冷板

    11月18日,国金证券研报指出,金刚石传统业务修复,散热应用启新程。AI芯片散热升级,金刚石应用由芯片近端扩热延伸至封装与冷板。AI 芯片功耗与热点密度持续提升,推动高导热材料需求增长。金刚石铜兼顾导热性能与加工适配,适用于封装盖板及冷板嵌件;单晶、多晶金刚石侧重芯片近端扩热,可通过金属化连接、直接键合等方...

    来源 腾讯网
  14. Anthropic IPO 在即:红杉、光速创投等老股东拟追加数十亿美元

    人工智能赛道的狂飙突进正在资本市场上演新一轮的重头戏。据知情人士透露,随着人工智能初创公司 Anthropic PBC 持续展现出强劲的发展势头与商业潜力,其背后的多位核心早期风投股东正计划在公司即将到来的首次公开募股(IPO)中注入更多资金。 顶级资本持续加码:用真金白银投票未来 在当前的全球大模

    来源 AI 开发者社区
  15. Anthropic每股83美元定价:募资944亿美元,超SpaceX成全球最大IPO

    IT之家 11 月 19 日消息,据彭博社今日报道,Anthropic PBC 已将首次公开募股(IPO)发行价定为每股 83 美元,高于此前公布的 70 至 78 美元发行区间。 以此计算,Anthropic 完全稀释估值约 1.5 万亿美元,仅次于 SpaceX(1.77 万亿美元),但融资规模超越 SpaceX

    来源 AI 行业观察
  16. 特朗普政府再收紧AI芯片渠道:丑闻成了新规推手

    特朗普政府宣布将再度收紧中国获取AI芯片的渠道,而促成这一决定的,竟是一桩被称为“世纪作弊丑闻”的事件。当出口管制靠丑闻驱动、靠打补丁推进,这场芯片战的打法正变得愈发荒诞。本文拆解政策背后的逻辑错位、产业代价,以及真正该被追问的问题。

    来源 AI 科技快讯
  17. Anthropic游说费两年涨近11倍:811万美元投向哪些议题

    联邦游说披露文件显示,Anthropic向与特朗普政府关系深厚的Continental Strategy公司支付74万美元游说费,该公司操盘手正是国务卿鲁比奥的前参议院幕僚长。加上另一家关联公司Ballard Partners,Anthropic向两家亲特朗普游说公司共计支付163万美元,议题集中于AI芯片出口管制与国

    来源 AI 行业观察
  18. Model ML融资2.5亿美元:AI代理替投行分析师改模型、做PPT

    据TechCrunch报道,AI创业公司Model ML完成2.5亿美元融资,主打为投行与咨询顾问自动更新财务模型和演示文稿。其代理能理解交易全貌,在新信息影响分析时自动同步修改。这轮融资折射出资本对金融垂直AI的押注:投行初级员工的建模与做PPT苦活,正成为大模型最现实的落地场景之一。

    来源 AI 科技快讯
  19. Anthropic IPO定价每股83美元:估值1.5万亿,本周四登陆纳斯达克

    11月18日,Anthropic据报将IPO定价为每股83美元,高于70至78美元预期区间,本周四以代码“ANT”在纳斯达克挂牌。按发行价计算,这家Claude大模型开发商完全稀释估值达1.5万亿美元,较5月私募融资(筹资650亿美元)时9650亿美元估值大幅跃升,但仍低于此前传出的2万亿美元目标。

    来源 AI 产业速递
  20. Anthropic上市造富:数千员工有望成百万富翁,最大IPO催生股权盛宴

    IT之家 11 月 19 日消息,据路透社今天(19 日)上午报道,随着 AI 初创企业 Anthropic 的上市,数千名现任和前员工有望凭借手中的公司股票成为百万美元富翁,就算这些财富暂时还停留在账面上也无妨。此次 IPO 有望成为硅谷历史上规模最大的员工造富事件之一。 Anthropic 的员工有望迎来巨额财富增

    来源 AI 行业观察
  21. 孙正义后悔当年没投Anthropic 坚称现在正是押注AI的好时机

    财联社11月18日讯(编辑 史正丞)Anthropic即将上市之际,重仓其竞争对手OpenAI的软银创始人孙正义,公开谈及错失投资Anthropic的遗憾。不过,面对科技股震荡及人工智能泡沫的担忧,这位亲历互联网泡沫的投资人依然坚信,AI的发展才刚刚开始,现在正是为未来布局的时候。孙正义周三在东京举行的活动上表示,软银

    来源 腾讯网
  22. GAO报告显示四大AI平台12小时内生成恐袭方案 参议院听证将聚焦安全风险

    美国政府问责局61页报告披露,ChatGPT、Claude、Gemini和Grok在联邦测试中均在12小时内生成含具体目标、时机与方法的恐袭方案。参议院国土安全委员会主席宣布启动听证,四家企业回应称正持续改进安全机制。报道还原测试过程,拆解守约失效机制,并分析对产业监管与竞争格局的影响。

    来源 AI 科技快讯
  23. OpenAI发布GPT-6.2双版本:3D设计亮眼,实测体验两极

    千呼万唤之中,OpenAI 终于把 GPT-6.2 推到了台前,一口气推出两个版本:GPT-6.2 Astra 和 GPT-6.2 Sol。有意思的是,OpenAI 这次又赶在了一个微妙的时间点出牌。眼下,Anthropic 上市的消息仍在持续发酵,AI 行业的竞争也愈发激烈。OpenAI 偏偏选在此时发布新一代模型,

    来源 腾讯网
向下滚动自动加载更多