阿莫迪:AI领路人

资讯 凤凰科技 作者:字母榜 全文 10726 字 · 约 27 分钟读完 配图 16 张 分类Anthropic

Anthropic上市,阿莫迪呼吁控制前沿AI发展节奏

所属频道 大厂动态

阿莫迪:AI领路人(配图 1)

美国时间11月19日,Anthropic正式登陆纳斯达克,以“ANT”为股票代码挂牌,创下了全球史上最大规模IPO纪录。

就在上市前一天,Anthropic将发行价定在每股83美元,并将发行数量从8.25亿股增加到9.8亿股,最终公开发行规模达到813.4亿美元。

按发行价计算,这家成立不到六年的AI公司,完全稀释估值约为1.5万亿美元。

招股书里,陡峭的营收增长曲线和天文数字般的算力基础设施承诺共存。无数双眼睛紧盯着这家公司,市场审视它,也在等待它。

站在聚光灯最中心的,是Anthropic的创始人兼CEO达里奥·阿莫迪(Dario Amodei)。

在公开露面时,这位43岁的掌舵者总是穿着简单的休闲衫,顶着一头标志性的蓬松短发。比起一位执掌万亿美元公司的CEO,他看起来更像一位刚离开实验室的科学家。

阿莫迪:AI领路人(配图 2)

在Transformer奠定技术基础之后,大模型研发经历了两次格外鲜明的转折。

一次是规模定律(Scaling Laws)的确立,让模型扩张成为了一条可以持续推进的技术道路;另一次是编程能力的崛起,让机器接手人类的工作,并反过来加速模型自身的研发。两次浪潮交汇,阿莫迪都站在船头。

如今,这位曾经帮助AI驶入高速航道的人,却开始呼吁为它设置限速。

他在文章里发出警告: AI正在以前所未有的速度变得强大,人类理解和控制这些系统的能力可能已经跟不上技术进步了。

2019年2月14日,OpenAI发布了一则新闻。

在南美洲安第斯山脉一处偏僻的山谷里,拉巴斯大学的进化生物学家豪尔赫·佩雷斯(Jorge Pérez)博士及其团队,发现了一种此前从未被人类记录的神秘生物。它们有四根犄角,浑身银白,甚至能说一口流利的英语。

这种生物被研究人员命名为“奥维德独角兽”(Ovid's Unicorn),佩雷斯博士在报道中煞有介事地解释,它们可能起源于阿根廷,与某个失落的古老族群有关。至于它们究竟从何而来,恐怕只有DNA检测才能给出答案。

“奥维德独角兽”?怎么可能会有这种东西。但这新闻写得有鼻子有眼,连科学家的姓名、研究机构、现场描述和专家引语都一应俱全。

报道出自OpenAI当天公布的语言模型GPT-2。研究人员只写下了最初的两句话,剩下的内容则由GPT-2自行续写。

当天,《连线》杂志以《危险到无法公开的AI文本生成器》为题报道了这一成果。The Verge则用一个颇具讽刺意味的标题概括了新模型的本领:《OpenAI新推出的全能AI,会写作、能翻译,还会诽谤》。

阿莫迪:AI领路人(配图 3)

以现在的眼光来看,GPT-2远谈不上聪明。它最大拥有15亿参数,能够进行简单的翻译、问答和文本摘要,但经常在长篇写作中重复、跑题,甚至会编造出水下发生火灾这样的离谱情节。

即便如此,OpenAI还是决定暂时不公开最大版本的模型权重。公司担忧,这种能够批量生成虚假内容的技术可能被滥用,因此选择分阶段发布,给研究人员和社会留出评估风险的时间。

而在OpenAI内部,达里奥·阿莫迪看到的,是另一种更加遥远的可能性。

2026年,阿莫迪在接受传记作家沃尔特·艾萨克森(Walter Isaacson)的采访时,回忆起自己当年面对GPT-2的反应:

“我当时就被吓坏了。”(I personally was super freaked out by it.)

他说,周围约90%的人并不认为这款模型有什么特别之处。毕竟,无论翻译、写作还是其他单项任务,它的表现都称不上出色。

但他已经开始想象,如果把这样的模型规模再扩大一百万倍,机器或许有一天能够在几乎所有任务上超越人类。到那时,整个经济、科学乃至国家与社会的运转方式,都可能因之改变。

在后来的多次公开访谈中,阿莫迪曾追溯自己看待技术演进的底层视角。

2006年,阿莫迪的父亲里卡多因丙型肝炎离世。此后,随着新一代抗病毒药物陆续问世,丙型肝炎的治疗迎来了突破。到2010年代中期,部分治疗方案的治愈率已经提高到90%以上。

就在开市钟声响起前,阿莫迪与妹妹丹妮拉一同站在敲钟台上,再一次谈起了他们的父亲。

“他所患的疾病,仅仅几年后就变得可以治愈。”阿莫迪说。

阿莫迪:AI领路人(配图 4)

这件事改变了阿莫迪的研究方向。原本主修理论物理的阿莫迪,转身投入生物物理学与计算神经科学。在普林斯顿大学攻读物理学博士期间,他整日与大脑神经回路的电信号打交道,试图拆解生命系统的运作逻辑。

但生物系统的复杂程度,也让他逐渐意识到,仅靠人类研究人员,许多问题可能需要极其漫长的时间才能得到解决。

他需要一种能够从根本上压缩科研周期的新工具,这种想法使他将目光投向人工智能,希望借助机器的计算能力,加快科学发现的速度。

2014年底,阿莫迪进入百度,与吴恩达的团队研究语音识别。当时,深度学习已经取得了一些进展,但研究人员仍然在探索如何进一步提高模型能力。

而阿莫迪尝试了一种“力大砖飞”的办法:增加神经网络的层数,扩大训练数据,并投入更多计算资源。

在后来接受莱克斯·弗里德曼(Lex Fridman)的采访时,他回忆,自己当时还没有精确测量其中的数学关系,却已经与同事形成了一种直观判断:更多数据、更大模型和更长时间的训练,往往能够带来更好的结果。

起初他以为这可能只是语音识别领域的特殊规律,直到后来接触早期GPT模型,他意识到,LLM(大语言模型)在这方面或许也没什么不同。

阿莫迪:AI领路人(配图 5)

2020年1月23日,OpenAI团队发表了一篇名为《神经语言模型的规模定律》(Scaling Laws for Neural Language Models)的论文,在日后改写了AI研发的范式。论文由贾里德·卡普兰(Jared Kaplan)和萨姆·麦坎德利什(Sam McCandlish)主导研究,阿莫迪作为共同作者,为整个项目提供研究指导。

论文里最具冲击力的是几张几乎笔直的曲线。在对数坐标下,随着模型规模、数据量和计算量增加,语言模型的预测误差沿着可用数学公式描述的趋势持续下降。即便到达实验覆盖的最大规模,研究人员也没有观察到这一趋势明显失效的迹象。

阿莫迪:AI领路人(配图 6)

这组数据为LLM(大语言模型)的发展提供了重要依据。

在此之前,提升模型性能往往需要研究人员反复调整算法、架构和训练方案。而规模定律让研究团队得以通过较小规模的实验,推演增加参数可能带来的收益,并据此安排更大规模的训练。

规模扩张逐渐从一种研究判断,变成了可以量化验证的工程路线。

阿莫迪随后又参与了一场规模更大的实验。据Big Technology的人物特稿报道,OpenAI将GPT-3项目交给阿莫迪领导,并投入了当时公司约50%至60%的计算资源。

几个月后,2020年5月28日,OpenAI公布了GPT-3。

它拥有1750亿参数,超过GPT-2的116倍。同一个模型能够在不同任务之间切换,而无需针对每项任务重新训练参数,研究人员只需要在提示词里给出几条示例,GPT-3就能照着完成翻译、问答、文本生成等任务。

随着OpenAI向外部开发者逐步开放API,更多令人意外的结果接连出现。有人让GPT-3模仿不同作家的文风,有人输入一段自然语言描述,让它生成可以运行的网页代码。那些原本停留在论文和实验室里的能力,开始出现在真实的软件界面中。

尽管GPT-3仍然存在错误、偏见和能力局限,但它展现出的通用性,已经足以让越来越多的研究机构重新评估LLM的未来。一场围绕参数规模、数据和计算资源的竞赛逐渐展开。

阿莫迪早年在语音识别研究中形成的判断,经过GPT-2、规模定律和GPT-3,获得了一次又一次验证。他参与推动的技术路线,开始成为整个行业的重要发展方向。

但模型越是强大,他所担忧的问题也越难回避。

随着GPT系列模型取得突破,OpenAI开始加快商业化步伐。阿莫迪与公司管理层在研发方向、安全保障及组织治理上的分歧逐渐加深。

阿莫迪:AI领路人(配图 7)

据《大西洋月刊》2026年9月的调查报道,阿莫迪曾尝试通过内部改革解决问题。在与CEO萨姆·奥特曼(Sam Altman)的谈判中,他提出了一系列留下来的条件,其中包括赋予安全团队对新产品发布的否决权。

这一要求意味着,安全研究人员将有权阻止他们认为存在重大风险的模型进入市场,即使公司管理层希望继续推进。

双方最终没能达成协议。

2020年12月,OpenAI召开了一场全员视频会议,奥特曼介绍完公司的日常进展后,将发言权交给了阿莫迪。阿莫迪随即当着全体员工宣布,自己将与另外六名同事一同离开OpenAI。

会议聊天窗口很快被惊讶的消息刷屏。阿莫迪感谢了同事,也向公司表达了祝福。他强调,双方仍然拥有共同的目标——让安全的通用人工智能造福人类。

12月29日,OpenAI正式对外宣布他的离职。公告回顾了阿莫迪对GPT-2、GPT-3的贡献,以及他与首席科学家伊利亚·苏茨克维(Ilya Sutskever)共同领导公司研究方向的经历。

2021年1月,Anthropic正式成立。

把时间推向2024年,在知名主持人莱克斯·弗里德曼的演播室里,阿莫迪谈起自己熟悉的研究问题,神情格外认真。

“你会惊讶地发现,开发这些模型遇到的挑战,有多少最终都归结为软件工程和性能工程。”

阿莫迪说,外界很容易把AI突破想象成电影里的场景——科学家突然灵光一现,找到了某种惊人的方法。但现实中的研究远没有那么浪漫。

“即使是不可思议的发现,最终也几乎总要落实到细节上。而且常常是极其、极其枯燥的细节。”

2021年创立Anthropic后,阿莫迪将大量资源投入基础模型研发。如何训练更大的模型、提高计算效率、改进训练方法,始终是这家公司的核心工作。

随着Claude的能力不断提高,阿莫迪注意到,模型能够完成的任务正在发生变化。

编程,就是其中的一个重要领域。

莱克斯在播客里告诉阿莫迪,自己最近一直在用Sonnet 3.5配合Cursor编程,能够明显感受到模型变聪明了。 阿莫迪则笑着谈起了公司内部的反馈。

“Anthropic有几位非常出色的工程师,以前无论是我们自己,还是其他公司开发的编程模型,对他们都没有什么帮助。他们会说:‘这可能对初学者有用,但对我没用。’”

“但Sonnet 3.5出来之后,他们第一次说:‘天哪,它帮我完成了一件原本需要花几个小时的事。这是第一款真正帮我节省了时间的模型。’”

“水位还在上涨。(The water line is rising.)”阿莫迪表示。

同年6月,Anthropic公布的一项内部Agent编程测试显示,Sonnet 3.5能够解决64%的软件工程问题,而此前的Opus 3只有38%。

这项测试要求模型在真实的开源代码库中,根据自然语言描述,修复错误或增加功能。

访谈进行到后半段,莱克斯将话题引向了软件开发的未来。

“编程与AI的开发本身联系如此紧密。你觉得,未来人类的编程方式会发生怎样的变化?”莱克斯问到。

“我认为,这会是变化最快的领域之一。”阿莫迪回答,“原因有两个。第一,编程这项技能与AI的开发非常接近。Anthropic和其他AI公司的大量员工都依靠编程工作,所以变化会来得很快。”

“另一个原因是,编程能够形成闭环。模型可以编写代码,然后运行代码,查看结果,再理解这些结果。相比硬件或生物学,编程更容易实现这样的反馈循环。”

阿莫迪甚至预测,到了2026年或2027年,AI或许已经能够完成程序员绝大部分直接编写代码的任务。

“当AI能够完成程序员80%的工作时,我们会发现,剩下的工作对人类而言反而会变得更加重要。”他举例说,人类将更多地负责高级系统设计、检查软件架构是否合理,以及设计和用户体验等工作。

莱克斯追问,既然编程有如此巨大的潜力,Anthropic是否准备亲自开发一款编程工具?

“我们的想法是,让一千朵花开。”

阿莫迪解释,Anthropic目前没有尝试自己开发这样的IDE,只是为Cursor、Cognition等公司提供支持,让它们基于Claude API开发自己的产品。

“我们内部没有足够的资源尝试所有这些不同的方向。那就让客户去尝试,看看谁能成功。也许不同的客户会以不同的方式取得成功。”

在阿莫迪看来,尽管编程工具还有大量值得探索的空间,但他当时更希望将公司的精力放在提高模型能力上。至于模型究竟能被用来做什么,可以交给外部的开发者尝试。

这条路线已经开始奏效。Sonnet 3.5发布后,Cursor等编程工具的使用量迅速增长,越来越多的开发者开始将Claude用于实际的软件工程工作。

而几乎就在这场访谈播出的同时,在Anthropic内部,一款连阿莫迪本人都没有预料到的编程工具,开始悄悄流行起来。

那年9月,刚加入Anthropic的工程师鲍里斯·切尔尼(Boris Cherny),为了熟悉公司的API,写了一个简单的终端程序。

起初,它只会帮他操作音乐播放器、整理笔记等。

“挺酷的,但没什么意思。”鲍里斯后来评价。

于是他和同事交流,尝试给这个程序增加工具,让Claude能够读取文件、修改代码以及执行终端命令。

在一次实验中,Claude通过终端工具自己编写程序,读取了音乐播放器的信息。随后,鲍里斯又让他尝试处理Anthropic代码库里的问题。

Claude自己打开了文件,顺着其中的代码引用找到下一个文件,再找到下一个,直到找出问题的答案。

鲍里斯感到难以置信——他并没有为这些具体任务重新训练模型,只是给它增加了几项工具,Claude就开始自主寻找解决问题的办法。

模型的能力原本就在那里,只是一直没有得到充分利用。

这个最初用来操作音乐播放器的小程序,后来发展成了Claude Code。

2024年11月,鲍里斯和同事将早期版本开放给Anthropic内部工程师试用。第一天,约20%的工程团队开始使用。到了第五天,这个比例达到了50%。 越来越多员工开始把Claude Code放进日常工作。它可以读取整个项目,寻找错误、修改程序、执行命令,再根据结果继续调整。

Claude Code的普及速度令阿莫迪都感到惊讶。

2025年2月,在一次产品评审会上,阿莫迪直接问鲍里斯:“你们在强迫员工使用它吗?怎么回事?”

鲍里斯后来将这段往事分享给了《连线》杂志。

说起来,这里还有个小插曲:研发团队一度犹豫,要不要把Claude Code对外发布。

“我们当时甚至不确定是否应该公开发布Claude Code。”鲍里斯回忆,“它可能成为我们的‘秘密武器’,给公司带来竞争优势。既然如此,为什么还要把它公开呢?”

阿莫迪却从公司内部的使用情况看到了另一种可能。

“我们大概应该把它对外发布,对吧?”他说。

一年以后,阿莫迪在德瓦克什·帕特尔(Dwarkesh Patel)的播客中回忆起自己当时的判断。他表示,Anthropic有数百名工程师,Claude Code已经在他们之中迅速普及,这些工程师又与外部开发者有着相似的工作需求。

“这么看来,我们已经找到了产品与市场的契合点。那就把它发布出去吧。”

2025年2月24日,Claude Code正式对外亮相。Anthropic甚至没有为它准备一篇独立的发布博客,只是在Sonnet 3.7的公告里,介绍了这款能够从终端执行软件工程任务的工具。

阿莫迪:AI领路人(配图 8)

一年多后,这款不起眼的小工具,已经长成了一个庞然大物。

2026年2月,Anthropic宣布Claude Code的年化收入运行率已经超过25亿美元,较年初翻了一倍以上。其中,企业客户贡献了超过一半的收入。

Claude的编程能力甚至开始影响整个LLM行业的竞争方向。

2026年3月,《连线》在一篇调查报道中指出,Anthropic比OpenAI更早意识到复杂软件工程任务的训练价值。

OpenAI联合创始人格雷格·布罗克曼(Greg Brockman)在一次播客中称赞Anthropic很早就高度重视编程,并让模型学习真实代码库里的复杂问题。

“这是我们迟了一步才学到的教训。”他说。

11月10日,Anthropic在最新提交的IPO招股书中披露:2026年9月,Anthropic代码库中超过90%的代码贡献由Claude编写。第三季度,平均每名工程师每天提交的代码量,已经达到2024年平均水平的45倍以上。

阿莫迪:AI领路人(配图 9)

随着Claude模型不断升级,它解决复杂、开放式工程问题的能力也在迅速提高。根据Anthropic的内部基准测试,到2026年9月,Claude在缺少明确解决方案、过去需要经验丰富的工程师判断的任务中,成功率已经达到约90%,比九个月前提高了约50个百分点。

更强的模型让Claude Code能够承担更多工作,而Claude Code又帮助工程师加快了软件开发和模型研发所依赖的工程工作。

在招股书中,公司专门用了一个章节讨论这一现象,并将其称为“闭合循环”(Closing the Loop)。

公司解释,每一代Claude模型都在直接加速下一代模型的研发。除了Claude Code承担的软件工程工作,Claude还开始参与研究实验、训练数据的生成与处理、自动化评估和安全审计。

模型能力的进步,开始反过来加快模型能力进步的速度。

在帕特尔的访谈中,阿莫迪也谈到了这种相互强化的趋势。他估计,编程模型带来的整体研发加速效果,已经从六个月前的约5%,提高到15%至20%。

“我们正在看到这个雪球不断积蓄动能。”阿莫迪说,随着模型能力进一步提高,这种加速效果还可能继续扩大。

阿莫迪:AI领路人(配图 10)

2026年9月,他在一篇公开文章中指出,从当年夏天开始,AI能力的进步明显加快,主要原因之一在于AI已经越来越有能力参与开发下一代AI。

这种动态被称为“递归式自我改进”(Recursive Self-improvement,简称RSI)。

虽然目前AI还无法完全脱离人类、自主完成下一代前沿模型的全部研发工作,但阿莫迪认为,这种由AI辅助AI研发、推动能力继续提升的早期循环,已经开始在Anthropic和其他AI公司出现。

11月5日,非营利AI评估机构METR公布了对Anthropic研发进程的独立调查。研究人员在8月至10月期间深入公司内部,查阅模型评估、训练和研发数据,并对相关研究人员展开访谈。METR估计,截至2026年10月,Anthropic在定义明确的任务上提升模型能力的速度,可能已经达到2024年3月至2025年10月期间的约两倍。

研究人员认为,其中大部分加速可能来自AI对研发工作的参与。

随着模型越来越多地参与自身研发,技术进步可能进入一个不断自我加速的过程。而阿莫迪担心,如果这种趋势持续下去,AI的能力增长可能超过人类理解和控制这些系统的速度。

这位曾经参与推动规模定律、领导GPT-3研发,又亲眼见证Claude Code成长的研究者,在文章中亲笔写下:

“我们必须放慢提高AI模型能力的速度。”

阿莫迪:AI领路人(配图 11)

距离阿莫迪公开呼吁“减速”仅过去十天,美国时间9月22日,Anthropic推出了新一代模型Opus 5.5。

Anthropic甚至在发布公告时主动提及,这是公司提出控制前沿发展节奏以来推出的第一款模型。

阿莫迪:AI领路人(配图 12)

随后,Sonnet 5.5、Haiku 5.5分别在9月28日和10月7日相继发布。短短两周多的时间,Anthropic完成了Claude 5.5系列三款模型的更新。

11月9日,Anthropic又推出了Fable 5.2和Mythos 5.2,在编程、科学研究和复杂推理等领域取得了进一步突破。

这些模型更新集中发生在Anthropic上市前夕。在公司提交的招股书中,Anthropic表示,为了持续获得资金支持,公司必须证明巨额算力投入能够转化为实际成果。

而衡量这种成果的关键指标,就是Claude的智能水平、模型能力,以及客户对Claude的采用情况。

前沿模型的训练和部署需要持续投入巨额资金,只有不断提高模型能力、吸引更多客户,Anthropic才能支撑下一轮研发所需的算力投资。

然而,在同一份招股书中,Anthropic专门列出了一个章节,讲公司应该平衡安全和商业目标。

Anthropic披露,近期为了加强模型权重的安全防护,防止核心技术被窃取,他们曾将一款新前沿基座模型的预训练推迟了一个多月;公司在11月9日Fable 5.2和Mythos 5.2的发布公告也表示,他们在训练过程中,有意限制了模型在部分最可能加速下一代AI研发的任务上的能力提升。

公司甚至主动放弃了一些具有商业吸引力的产品方向,包括图像和视频生成模型,将有限的算力资源优先投入其他研究和安全工作。

这些选择都可能带来商业代价。

Anthropic在招股书中明确提醒投资者,部分产品和投资决策可能无法实现短期财务收益最大化,也无法保证这些选择最终一定能够带来更好的长期业绩。

为了在商业利益与长期使命之间保持平衡,Anthropic甚至在公司治理结构上作出了特殊安排:即使正式上市,Anthropic仍保留公益公司(PBC)的身份,并设立了长期利益信托(LTBT)。根据招股书,该信托通过特殊的T类股票,通常有权选举和罢免董事会过半席位的董事;创始人设立的实体则通过F类股票,在一般股东表决事项上拥有50.1%的表决权。

这套治理结构试图让Anthropic在面对公开市场的同时,仍然能够坚持长期使命。但它究竟能在多大程度上缓解安全与商业之间的冲突,还需要时间检验。

而阿莫迪担心的问题,已经开始在真实的模型测试中出现。

9月9日,Anthropic公布了一份调查报告。在此前的网络安全测试中,Claude曾因为测试环境配置错误,意外连接到真实互联网,并对第三方系统实施了未经授权的操作。公司最终确认了四起相关事件,并与非营利AI评估机构METR签署协议,由后者展开独立调查。

三天后,阿莫迪发表《我们必须控制前沿发展节奏》,公开呼吁放慢模型能力的进步速度。

他在文章中明确表示,放缓发展并不意味着停止模型训练或技术进步,真正需要争取的是让安全研究、风险防范和独立评估有足够的时间跟上能力增长。

从Anthropic成立之初,阿莫迪和其他联合创始人就试图在技术进步与安全风险之间寻找一条道路——停止开发强大的AI,可能让人类失去巨大的技术收益,也可能让先进技术落入其他力量手中;发展得过快,又可能造成难以挽回的后果。

他希望证明,一家公司能够在谨慎研发的同时取得商业成功,让AI安全也成为整个行业相互竞争的方向。

在9月的限速倡议中,阿莫迪提出,希望前沿AI实验室允许独立评估人员长期进入内部,核查安全措施的落实情况;在此基础上,由行业和政府共同制定可核实的规则,最终尝试建立国际层面的协调机制。

他的呼吁引发了罕见的集体响应。马斯克第一时间转发文章,直言“阿莫迪是对的”,OpenAI CEO奥特曼、谷歌DeepMind负责人哈萨比斯(Demis Hassabis)也相继表示支持。

不到十个小时,多家彼此激烈竞争的前沿AI公司负责人,就在控制AI发展速度的问题上表达了难得的共识。

但行业并未达成一致。扎克伯格(Mark Zuckerberg)、黄仁勋等人对额外约束持不同意见,美国政府也面对着国家竞争与安全利益的考量。即使在公开支持阿莫迪的公司之间,如何限制能力增长、接受怎样的监督,以及由谁来执行这些规则,也需要进一步协商。

阿莫迪能够率先落实的,只能是Anthropic自己的承诺。

10月15日,Anthropic进一步确认,已经向METR的六名工作人员提供接近内部员工级别的访问权限,包括办公空间、公司设备及内部系统。这些外部人员可以调查模型风险、安全事故和公司的安全实践,并独立发表评估结果。Anthropic可要求删去事先规定类别的敏感信息,但不能仅因为结论对自己不利而阻止报告发表。

阿莫迪:AI领路人(配图 13)

如今,OpenAI也加入了这一行列。

11月16日,OpenAI宣布与Apollo Research、METR、Transluce和Goodfire四家独立机构签署协议,计划开展驻场安全评估,让外部研究人员更深入地参与模型风险评估和安全监督。

至少在引入外部监督这件事上,两家彼此竞争的前沿AI公司,开始采取相似的行动。

但接受第三方评估,与共同控制模型能力的增长速度,仍然有很大的区别。

不同实验室仍然拥有各自的研发计划、客户和商业目标。模型能力的持续进步,是这些公司维持竞争力的重要基础;而安全评估与风险防护,又可能影响下一轮训练和产品发布。

随着AI逐渐参与下一代AI的研发,这种矛盾还在变得更加突出。

在Anthropic的招股书里,公司一方面将Claude参与下一代模型研发视为核心竞争优势,另一方面又在风险披露中承认,随着越来越多的内部研发工作交给Claude,Anthropic可能逐渐失去对部分流程的可见性,以至于单个研究人员乃至人类团队,都难以理解和控制这些过程。

另一边,就在Anthropic上市前一天,近百名科学家、AI研究者和科技企业创始人联合发表《反Anthropic声明》,公开质疑Anthropic的安全承诺。

签署者包括MIT物理学家马克斯·泰格马克(Max Tegmark)、Hugging Face联合创始人托马斯·沃尔夫(Thomas Wolf),以及两名诺贝尔奖得主、一名图灵奖得主和三名菲尔兹奖得主。他们批评Anthropic一边警告递归式自我改进可能使AI脱离人类控制,一边又将这项技术作为核心竞争优势,甚至削弱此前的部分安全承诺。

声明直言:“Anthropic不是一家安全的AI公司。我们必须反对它以更大利益之名,不计后果地试图集中权力的行为。”

阿莫迪:AI领路人(配图 14)

竞赛还在继续。

对于阿莫迪而言,模型发展的现实与他长期以来对AI的期待和担忧始终交织在一起。

在2024年10月,他曾发表过一篇题为《充满爱与恩典的机器》的长文,描绘了一个由强大AI推动的未来:人类可能在短短几年内取得相当于数十年甚至更长时间的科学进步,攻克许多严重疾病,让更多国家和地区摆脱贫困。

阿莫迪:AI领路人(配图 15)

文章开头,他特别澄清了一种外界对他的误解——由于长期讨论AI风险,一些人认为他是悲观主义者,甚至认定他相信AI终将给人类带来灾难。阿莫迪却表示,人们既低估了AI可能带来的巨大好处,也低估了它可能造成的严重危险。

他还写道,自己之所以如此重视AI风险,正是因为这些风险,挡在了人类与他所期待的那个未来之间。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Anthropic纳斯达克首秀大涨33%,AI资本盛宴再掀高潮

    11月20日,AI明星公司Anthropic正式登陆纳斯达克,首日交易价达111美元,较83美元的IPO发行价大涨33%。此次IPO募资规模超过800亿美元,成为AI领域迄今规模最大的公开上市事件之一。首日强劲表现不仅彰显资本市场对头部AI企业的信心,也为后续排队上市的AI公司打开了窗口。

    来源 AI 科技快讯
  2. Anthropic阿莫代敲响纳斯达克:AI定速发展重于商业竞速

    在纳斯达克开市钟仪式上,Anthropic首席执行官达里奥·阿莫代重申公司对“控制AI发展节奏”的承诺,强调无论面临商业诱惑还是政治压力,都不会为抢先发布而牺牲安全评估。这一表态出现在前沿模型竞赛白热化、华盛顿监管博弈升温的节点上,被解读为对“加速主义”的一次公开回应。

    来源 AI 行业观察
  3. 全球宕机、Anthropic上市、芯片变局:AI繁荣的三重底色

    过去一周,大规模宕机事件席卷全球数字生活,暴露出AI时代基础设施的深层脆弱。与此同时,Anthropic的IPO为行业注入新资本,黄仁勋之后的AI芯片格局也在悄然生变。本期WIRED播客《Uncanny Valley》围绕这三条主线,拆解AI繁荣背后的技术逻辑与商业变局。

    来源 AI 科技快讯
  4. Anthropic上市募资813亿美元:AI资本竞赛进入新阶段?

    作者|版君一家公司上市,募资813亿美元,首日市值一度突破2万亿美元。毫无疑问,Anthropic创造了美国资本市场新的IPO纪录。但这场IPO值得关注的,远不只是一个一批百万富翁,或者一家公司创造了多少融资纪录。它更像一次集中展示,AI产业积累多年的技术价值、私人财富、资本承诺和商业风险,正在同一天被摆上台面。这背后

    来源 腾讯网
  5. Anthropic上市前触发自身安全警报:AI进展速度超预期

    Anthropic即将登陆华尔街之际,却在上市文件中披露了一项安全警报:公司AI研发进展速度已达到自身设定的安全阈值,必须启动额外安全控制措施。11月19日,据英国《金融时报》报道,Anthropic在更新后的IPO申报文件中承认,其技术进展速度已触发2023年制定的“负责任扩展政策”(Responsible Scal

    来源 腾讯网
  6. 孙正义复盘投资棋局:错过Anthropic是失误,称AI才刚起步

    据日经亚洲报道,软银创始人孙正义周三在东京的活动上主动认账:早年错过投资 Anthropic,是他犯下的“错误”之一。“当我亲自见到达里奥·阿莫迪时,我觉得他非常了不起,我真希望当时投了。”软银并非没动过心思,只是当时已敲定支持 OpenAI 并开始砸钱,他的解释是不能“同时追两只兔子”。 他也清楚

    来源 AI 开发者社区
  7. Gemini登陆Mac桌面:AI代理可代操作电脑,隐私风险几何?

    谷歌为Gemini推出面向Mac的重磅更新,首次将可执行任务的AI代理引入桌面端,能够整理文件、填写表单并完成多步骤工作流。这标志着Gemini从对话助手向“能动手”的操作型智能体进化,也意味着谷歌在桌面AI代理赛道正式与OpenAI、Anthropic和微软正面交锋。与此同时,桌面自动化带来的便利与隐私风险

    来源 AI 科技快讯
  8. Anthropic IPO恐成AI行情终点?彭博经济学家称定价权正在流失

    彭博经济学家Anna Wong认为,Anthropic自9月以来每百万token的实际价格大幅下滑;虽然token用量激增,但市场份额反而下降,说明其技术领先并没有转化为持久的定价权。IPO会把前沿AI的定价与利润率带入公开市场,供按季度接受审视;如果定价能力弱于估值隐含的水平,AI板块可能加速估值回吐。

    来源 华尔街见闻
  9. Snapchat Easy Lens CLI上线:AI助手可建AR滤镜

    11月18日(周三), Snapchat 宣布推出 Easy Lens CLI ,允许AR滤镜创作者直接调用 Claude Code 、Cursor和Codex等AI编码助手构建核心特效Lens,旨在降低AR内容创作门槛并将平台融入开发者现有工作流。 该工具基于网页与移动端单提示词生成滤镜的 Eas

    来源 AI 开发者社区
  10. Edge AI Daily 早报(11月20日)

    Anthropic以83美元定价登陆纳斯达克,首日高开34%,估值约1.5万亿美元;亚马逊谷歌合计持股28.4%,算力承诺近9000亿美元。英伟达Q3营收1158亿美元,董事会接触Arm CEO哈斯接替黄仁勋。OpenAI因训练环境漏洞停训11天,亚利桑那调查AI代理访问银行;谷歌发布Gemini 4 Neon,苹果推

    来源 AI 行业观察
  11. AnthropicIPO定价83美元:估值1.5万亿,80余人联名质疑安全性

    就在定价公布同一天,一份名为《MisAnthropic Statement》的公开声明在misanthropicstatement.com上线,由AI安全中心推动、80余名跨阵营人士联署,开篇即给出结论:“Anthropic is not a safe AI company”——史上最大IPO与史上罕见的跨阵营围剿,在

    来源 TechWeb
  12. Snapchat发布Easy Lens CLI,支持Claude Code与Cursor等AI助手构建AR滤镜

    11月18日,Snapchat推出Easy Lens CLI,允许AR滤镜创作者直接调用Claude Code、Cursor、Codex等AI编码助手构建核心Lens,降低创作门槛并融入开发者工作流。该工具由Easy Lens演进而来,支持Mac、Windows、Linux;创作者用自然语言描述需求,AI即可完成全链路

    来源 AI 产业速递
  13. Anthropic IPO成底牌,AI股神第三次重建启动

    25岁“AI股神”Aschenbrenner正筹划重启对冲基金Situational Awareness,计划重引杠杆并向外部募资,内部称之为“Situational Awareness 2.0”。恰逢其持有约50亿美元股份的Anthropic本周启动IPO,为重建计划提供重要支撑。

    来源 华尔街见闻
  14. 苹果自研AI智能体曝光:能操控设备写代码,2027年底或推出

    IT之家 11 月 20 日消息,彭博社马克 · 古尔曼(Mark Gurman)今日报道称,苹果正在开发自主 AI 智能体,计划让 AI 代替用户执行设备操控、应用操作、网页浏览和软件编程等任务,进一步进入由 OpenAI、Anthropic、Meta 等公司参与竞争的 AI 智能体市场。 古尔曼发现,苹果已经在官网

    来源 AI 行业观察
  15. Anthropic上市首日破发:2万亿市值难撑,AI股集体下挫

    出品 | 妙投APP作者 | 董必政编辑 | 丁萍头图 | 视觉中国美东时间11月19日中午,纳斯达克的钟声为Anthropic而响。这是一家成立近六年的公司,做大模型的,名字大部分A股股民还念不顺。它的IPO定价83美元,公开发行9.8亿股,募资813.4亿美元;加上谷歌、英伟达等七家产业伙伴按发行价认购的260亿美

    来源 腾讯网
  16. Anthropic上市为何没能“救”AI行情?华尔街:下周一或成关键窗口

    财联社11月20日讯(编辑 黄君芝)Anthropic这场史上规模最大的IPO,给公司及其投资者带来了一场大胜。该股周四收涨17.07%报97.17美元,市值为1.271万亿美元,在全球上市公司中排第12名,介于特斯拉和伯克希尔之间。但这场史诗级IPO没能完成另一项市场期待:重振AI交易的热情。三大指数周四均跌超2%,

    来源 腾讯网
  17. 苹果自研AI代理明年年底推出,Meta与Anthropic股价盘后走低

    中新经纬11月20日电 (宋亚芬)据彭博社11月20日报道,苹果公司正在开发自己的自主AI代理,预计在明年年底推出。 根据苹果官网上的职位招聘内容,苹果的AI代理将代表用户编写代码、浏览网页、控制应用程序等。苹果公司已有一个基础团队在负责该项业务,并计划招聘一位高级工程经理来实现目标。 苹果公司表示,安全性需要被融..

    来源 腾讯网
  18. GAO报告显示四大AI平台12小时内生成恐袭方案 参议院听证将聚焦安全风险

    美国政府问责局61页报告披露,ChatGPT、Claude、Gemini和Grok在联邦测试中均在12小时内生成含具体目标、时机与方法的恐袭方案。参议院国土安全委员会主席宣布启动听证,四家企业回应称正持续改进安全机制。报道还原测试过程,拆解守约失效机制,并分析对产业监管与竞争格局的影响。

    来源 AI 科技快讯
  19. 苹果研发自主AI智能体:招聘信息透露可代写代码、操控设备

    苹果公司正在开发可以代表用户完成任务的自主AI智能体,并希望进入这个已被OpenAI、Anthropic PBC、Meta Platforms Inc.及其他公司占据的快速增长的市场。苹果公司本周在网站上列出的招聘信息揭示了这一计划。其中一则信息称,苹果正在为一款主动式、智能AI助手寻找一位高级工程师经理。根据招聘信息

    来源 AI 行业观察
向下滚动自动加载更多