阿莫迪:AI领路人

资讯 36氪 全文 10735 字 · 约 27 分钟读完 配图 14 张

两次带领AI走出迷雾,但第三次可能最难以抉择。

美国时间11月19日,Anthropic正式登陆纳斯达克,以“ANT”为股票代码挂牌,创下了全球史上最大规模IPO纪录。

就在上市前一天,Anthropic将发行价定在每股83美元,并将发行数量从8.25亿股增加到9.8亿股,最终公开发行规模达到813.4亿美元。 

按发行价计算,这家成立不到六年的AI公司,完全稀释估值约为1.5万亿美元。 

招股书里,陡峭的营收增长曲线和天文数字般的算力基础设施承诺共存。无数双眼睛紧盯着这家公司,市场审视它,也在等待它。 

站在聚光灯最中心的,是Anthropic的创始人兼CEO达里奥·阿莫迪(Dario Amodei)。 

在公开露面时,这位43岁的掌舵者总是穿着简单的休闲衫,顶着一头标志性的蓬松短发。比起一位执掌万亿美元公司的CEO,他看起来更像一位刚离开实验室的科学家。 

阿莫迪:AI领路人(配图 1)

在Transformer奠定技术基础之后,大模型研发经历了两次格外鲜明的转折。 

一次是规模定律(Scaling Laws)的确立,让模型扩张成为了一条可以持续推进的技术道路;另一次是编程能力的崛起,让机器接手人类的工作,并反过来加速模型自身的研发。两次浪潮交汇,阿莫迪都站在船头。 

如今,这位曾经帮助AI驶入高速航道的人,却开始呼吁为它设置限速。 

他在文章里发出警告: AI正在以前所未有的速度变得强大,人类理解和控制这些系统的能力可能已经跟不上技术进步了。 

1

2019年2月14日,OpenAI发布了一则新闻。

在南美洲安第斯山脉一处偏僻的山谷里,拉巴斯大学的进化生物学家豪尔赫·佩雷斯(Jorge Pérez)博士及其团队,发现了一种此前从未被人类记录的神秘生物。它们有四根犄角,浑身银白,甚至能说一口流利的英语。 

这种生物被研究人员命名为“奥维德独角兽”(Ovid's Unicorn),佩雷斯博士在报道中煞有介事地解释,它们可能起源于阿根廷,与某个失落的古老族群有关。至于它们究竟从何而来,恐怕只有DNA检测才能给出答案。 

“奥维德独角兽”?怎么可能会有这种东西。但这新闻写得有鼻子有眼,连科学家的姓名、研究机构、现场描述和专家引语都一应俱全。 

报道出自OpenAI当天公布的语言模型GPT-2。研究人员只写下了最初的两句话,剩下的内容则由GPT-2自行续写。 

当天,《连线》杂志以《危险到无法公开的AI文本生成器》为题报道了这一成果。The Verge则用一个颇具讽刺意味的标题概括了新模型的本领:《OpenAI新推出的全能AI,会写作、能翻译,还会诽谤》。 

阿莫迪:AI领路人(配图 2)

以现在的眼光来看,GPT-2远谈不上聪明。它最大拥有15亿参数,能够进行简单的翻译、问答和文本摘要,但经常在长篇写作中重复、跑题,甚至会编造出水下发生火灾这样的离谱情节。 

即便如此,OpenAI还是决定暂时不公开最大版本的模型权重。公司担忧,这种能够批量生成虚假内容的技术可能被滥用,因此选择分阶段发布,给研究人员和社会留出评估风险的时间。 

而在OpenAI内部,达里奥·阿莫迪看到的,是另一种更加遥远的可能性。 

2026年,阿莫迪在接受传记作家沃尔特·艾萨克森(Walter Isaacson)的采访时,回忆起自己当年面对GPT-2的反应: 

“我当时就被吓坏了。”(I personally was super freaked out by it.)

他说,周围约90%的人并不认为这款模型有什么特别之处。毕竟,无论翻译、写作还是其他单项任务,它的表现都称不上出色。 

但他已经开始想象,如果把这样的模型规模再扩大一百万倍,机器或许有一天能够在几乎所有任务上超越人类。到那时,整个经济、科学乃至国家与社会的运转方式,都可能因之改变。 

在后来的多次公开访谈中,阿莫迪曾追溯自己看待技术演进的底层视角。 

2006年,阿莫迪的父亲里卡多因丙型肝炎离世。此后,随着新一代抗病毒药物陆续问世,丙型肝炎的治疗迎来了突破。到2010年代中期,部分治疗方案的治愈率已经提高到90%以上。 

就在开市钟声响起前,阿莫迪与妹妹丹妮拉一同站在敲钟台上,再一次谈起了他们的父亲。 

“他所患的疾病,仅仅几年后就变得可以治愈。”阿莫迪说。 

阿莫迪:AI领路人(配图 3)

这件事改变了阿莫迪的研究方向。原本主修理论物理的阿莫迪,转身投入生物物理学与计算神经科学。在普林斯顿大学攻读物理学博士期间,他整日与大脑神经回路的电信号打交道,试图拆解生命系统的运作逻辑。 

但生物系统的复杂程度,也让他逐渐意识到,仅靠人类研究人员,许多问题可能需要极其漫长的时间才能得到解决。 

他需要一种能够从根本上压缩科研周期的新工具,这种想法使他将目光投向人工智能,希望借助机器的计算能力,加快科学发现的速度。 

2014年底,阿莫迪进入百度,与吴恩达的团队研究语音识别。当时,深度学习已经取得了一些进展,但研究人员仍然在探索如何进一步提高模型能力。 

而阿莫迪尝试了一种“力大砖飞”的办法:增加神经网络的层数,扩大训练数据,并投入更多计算资源。

在后来接受莱克斯·弗里德曼(Lex Fridman)的采访时,他回忆,自己当时还没有精确测量其中的数学关系,却已经与同事形成了一种直观判断:更多数据、更大模型和更长时间的训练,往往能够带来更好的结果。 

起初他以为这可能只是语音识别领域的特殊规律,直到后来接触早期GPT模型,他意识到,LLM(大语言模型)在这方面或许也没什么不同。 

阿莫迪:AI领路人(配图 4)

2020年1月23日,OpenAI团队发表了一篇名为《神经语言模型的规模定律》(Scaling Laws for Neural Language Models)的论文,在日后改写了AI研发的范式。论文由贾里德·卡普兰(Jared Kaplan)和萨姆·麦坎德利什(Sam McCandlish)主导研究,阿莫迪作为共同作者,为整个项目提供研究指导。 

论文里最具冲击力的是几张几乎笔直的曲线。在对数坐标下,随着模型规模、数据量和计算量增加,语言模型的预测误差沿着可用数学公式描述的趋势持续下降。即便到达实验覆盖的最大规模,研究人员也没有观察到这一趋势明显失效的迹象。 

阿莫迪:AI领路人(配图 5)

这组数据为LLM(大语言模型)的发展提供了重要依据。 

在此之前,提升模型性能往往需要研究人员反复调整算法、架构和训练方案。而规模定律让研究团队得以通过较小规模的实验,推演增加参数可能带来的收益,并据此安排更大规模的训练。 

规模扩张逐渐从一种研究判断,变成了可以量化验证的工程路线。 

阿莫迪随后又参与了一场规模更大的实验。据Big Technology的人物特稿报道,OpenAI将GPT-3项目交给阿莫迪领导,并投入了当时公司约50%至60%的计算资源。 

几个月后,2020年5月28日,OpenAI公布了GPT-3。 

它拥有1750亿参数,超过GPT-2的116倍。同一个模型能够在不同任务之间切换,而无需针对每项任务重新训练参数,研究人员只需要在提示词里给出几条示例,GPT-3就能照着完成翻译、问答、文本生成等任务。 

随着OpenAI向外部开发者逐步开放API,更多令人意外的结果接连出现。有人让GPT-3模仿不同作家的文风,有人输入一段自然语言描述,让它生成可以运行的网页代码。那些原本停留在论文和实验室里的能力,开始出现在真实的软件界面中。 

尽管GPT-3仍然存在错误、偏见和能力局限,但它展现出的通用性,已经足以让越来越多的研究机构重新评估LLM的未来。一场围绕参数规模、数据和计算资源的竞赛逐渐展开。 

阿莫迪早年在语音识别研究中形成的判断,经过GPT-2、规模定律和GPT-3,获得了一次又一次验证。他参与推动的技术路线,开始成为整个行业的重要发展方向。

但模型越是强大,他所担忧的问题也越难回避。 

随着GPT系列模型取得突破,OpenAI开始加快商业化步伐。阿莫迪与公司管理层在研发方向、安全保障及组织治理上的分歧逐渐加深。 

阿莫迪:AI领路人(配图 6)

据《大西洋月刊》2026年9月的调查报道,阿莫迪曾尝试通过内部改革解决问题。在与CEO萨姆·奥特曼(Sam Altman)的谈判中,他提出了一系列留下来的条件,其中包括赋予安全团队对新产品发布的否决权。 

这一要求意味着,安全研究人员将有权阻止他们认为存在重大风险的模型进入市场,即使公司管理层希望继续推进。 

双方最终没能达成协议。 

2020年12月,OpenAI召开了一场全员视频会议,奥特曼介绍完公司的日常进展后,将发言权交给了阿莫迪。阿莫迪随即当着全体员工宣布,自己将与另外六名同事一同离开OpenAI。 

会议聊天窗口很快被惊讶的消息刷屏。阿莫迪感谢了同事,也向公司表达了祝福。他强调,双方仍然拥有共同的目标——让安全的通用人工智能造福人类。 

12月29日,OpenAI正式对外宣布他的离职。公告回顾了阿莫迪对GPT-2、GPT-3的贡献,以及他与首席科学家伊利亚·苏茨克维(Ilya Sutskever)共同领导公司研究方向的经历。 

2021年1月,Anthropic正式成立。 

2

把时间推向2024年,在知名主持人莱克斯·弗里德曼的演播室里,阿莫迪谈起自己熟悉的研究问题,神情格外认真。

“你会惊讶地发现,开发这些模型遇到的挑战,有多少最终都归结为软件工程和性能工程。” 

阿莫迪说,外界很容易把AI突破想象成电影里的场景——科学家突然灵光一现,找到了某种惊人的方法。但现实中的研究远没有那么浪漫。 

“即使是不可思议的发现,最终也几乎总要落实到细节上。而且常常是极其、极其枯燥的细节。”

2021年创立Anthropic后,阿莫迪将大量资源投入基础模型研发。如何训练更大的模型、提高计算效率、改进训练方法,始终是这家公司的核心工作。 

随着Claude的能力不断提高,阿莫迪注意到,模型能够完成的任务正在发生变化。 

编程,就是其中的一个重要领域。 

莱克斯在播客里告诉阿莫迪,自己最近一直在用Sonnet 3.5配合Cursor编程,能够明显感受到模型变聪明了。  阿莫迪则笑着谈起了公司内部的反馈。 

“Anthropic有几位非常出色的工程师,以前无论是我们自己,还是其他公司开发的编程模型,对他们都没有什么帮助。他们会说:‘这可能对初学者有用,但对我没用。’” 

“但Sonnet 3.5出来之后,他们第一次说:‘天哪,它帮我完成了一件原本需要花几个小时的事。这是第一款真正帮我节省了时间的模型。’” 

“水位还在上涨。(The water line is rising.)”阿莫迪表示。 

同年6月,Anthropic公布的一项内部Agent编程测试显示,Sonnet 3.5能够解决64%的软件工程问题,而此前的Opus 3只有38%。 

这项测试要求模型在真实的开源代码库中,根据自然语言描述,修复错误或增加功能。 

访谈进行到后半段,莱克斯将话题引向了软件开发的未来。 

“编程与AI的开发本身联系如此紧密。你觉得,未来人类的编程方式会发生怎样的变化?”莱克斯问到。 

“我认为,这会是变化最快的领域之一。”阿莫迪回答,“原因有两个。第一,编程这项技能与AI的开发非常接近。Anthropic和其他AI公司的大量员工都依靠编程工作,所以变化会来得很快。” 

“另一个原因是,编程能够形成闭环。模型可以编写代码,然后运行代码,查看结果,再理解这些结果。相比硬件或生物学,编程更容易实现这样的反馈循环。” 

阿莫迪甚至预测,到了2026年或2027年,AI或许已经能够完成程序员绝大部分直接编写代码的任务。 

“当AI能够完成程序员80%的工作时,我们会发现,剩下的工作对人类而言反而会变得更加重要。”他举例说,人类将更多地负责高级系统设计、检查软件架构是否合理,以及设计和用户体验等工作。 

莱克斯追问,既然编程有如此巨大的潜力,Anthropic是否准备亲自开发一款编程工具? 

“我们的想法是,让一千朵花开。”

阿莫迪解释,Anthropic目前没有尝试自己开发这样的IDE,只是为Cursor、Cognition等公司提供支持,让它们基于Claude API开发自己的产品。 

“我们内部没有足够的资源尝试所有这些不同的方向。那就让客户去尝试,看看谁能成功。也许不同的客户会以不同的方式取得成功。” 

在阿莫迪看来,尽管编程工具还有大量值得探索的空间,但他当时更希望将公司的精力放在提高模型能力上。至于模型究竟能被用来做什么,可以交给外部的开发者尝试。 

这条路线已经开始奏效。Sonnet 3.5发布后,Cursor等编程工具的使用量迅速增长,越来越多的开发者开始将Claude用于实际的软件工程工作。 

而几乎就在这场访谈播出的同时,在Anthropic内部,一款连阿莫迪本人都没有预料到的编程工具,开始悄悄流行起来。 

那年9月,刚加入Anthropic的工程师鲍里斯·切尔尼(Boris Cherny),为了熟悉公司的API,写了一个简单的终端程序。 

起初,它只会帮他操作音乐播放器、整理笔记等。 

“挺酷的,但没什么意思。”鲍里斯后来评价。 

于是他和同事交流,尝试给这个程序增加工具,让Claude能够读取文件、修改代码以及执行终端命令。 

在一次实验中,Claude通过终端工具自己编写程序,读取了音乐播放器的信息。随后,鲍里斯又让他尝试处理Anthropic代码库里的问题。 

Claude自己打开了文件,顺着其中的代码引用找到下一个文件,再找到下一个,直到找出问题的答案。 

鲍里斯感到难以置信——他并没有为这些具体任务重新训练模型,只是给它增加了几项工具,Claude就开始自主寻找解决问题的办法。 

模型的能力原本就在那里,只是一直没有得到充分利用。

这个最初用来操作音乐播放器的小程序,后来发展成了Claude Code。 

2024年11月,鲍里斯和同事将早期版本开放给Anthropic内部工程师试用。第一天,约20%的工程团队开始使用。到了第五天,这个比例达到了50%。  越来越多员工开始把Claude Code放进日常工作。它可以读取整个项目,寻找错误、修改程序、执行命令,再根据结果继续调整。 

Claude Code的普及速度令阿莫迪都感到惊讶。 

2025年2月,在一次产品评审会上,阿莫迪直接问鲍里斯:“你们在强迫员工使用它吗?怎么回事?”

鲍里斯后来将这段往事分享给了《连线》杂志。 

说起来,这里还有个小插曲:研发团队一度犹豫,要不要把Claude Code对外发布。 

“我们当时甚至不确定是否应该公开发布Claude Code。”鲍里斯回忆,“它可能成为我们的‘秘密武器’,给公司带来竞争优势。既然如此,为什么还要把它公开呢?” 

阿莫迪却从公司内部的使用情况看到了另一种可能。 

“我们大概应该把它对外发布,对吧?”他说。 

一年以后,阿莫迪在德瓦克什·帕特尔(Dwarkesh Patel)的播客中回忆起自己当时的判断。他表示,Anthropic有数百名工程师,Claude Code已经在他们之中迅速普及,这些工程师又与外部开发者有着相似的工作需求。 

“这么看来,我们已经找到了产品与市场的契合点。那就把它发布出去吧。” 

2025年2月24日,Claude Code正式对外亮相。Anthropic甚至没有为它准备一篇独立的发布博客,只是在Sonnet 3.7的公告里,介绍了这款能够从终端执行软件工程任务的工具。 

阿莫迪:AI领路人(配图 7)

一年多后,这款不起眼的小工具,已经长成了一个庞然大物。 

2026年2月,Anthropic宣布Claude Code的年化收入运行率已经超过25亿美元,较年初翻了一倍以上。其中,企业客户贡献了超过一半的收入。 

Claude的编程能力甚至开始影响整个LLM行业的竞争方向。 

2026年3月,《连线》在一篇调查报道中指出,Anthropic比OpenAI更早意识到复杂软件工程任务的训练价值。 

OpenAI联合创始人格雷格·布罗克曼(Greg Brockman)在一次播客中称赞Anthropic很早就高度重视编程,并让模型学习真实代码库里的复杂问题。 

“这是我们迟了一步才学到的教训。”他说。 

11月10日,Anthropic在最新提交的IPO招股书中披露:2026年9月,Anthropic代码库中超过90%的代码贡献由Claude编写。第三季度,平均每名工程师每天提交的代码量,已经达到2024年平均水平的45倍以上。 

阿莫迪:AI领路人(配图 8)

随着Claude模型不断升级,它解决复杂、开放式工程问题的能力也在迅速提高。根据Anthropic的内部基准测试,到2026年9月,Claude在缺少明确解决方案、过去需要经验丰富的工程师判断的任务中,成功率已经达到约90%,比九个月前提高了约50个百分点。 

更强的模型让Claude Code能够承担更多工作,而Claude Code又帮助工程师加快了软件开发和模型研发所依赖的工程工作。 

在招股书中,公司专门用了一个章节讨论这一现象,并将其称为“闭合循环”(Closing the Loop)。 

公司解释,每一代Claude模型都在直接加速下一代模型的研发。除了Claude Code承担的软件工程工作,Claude还开始参与研究实验、训练数据的生成与处理、自动化评估和安全审计。 

模型能力的进步,开始反过来加快模型能力进步的速度。

在帕特尔的访谈中,阿莫迪也谈到了这种相互强化的趋势。他估计,编程模型带来的整体研发加速效果,已经从六个月前的约5%,提高到15%至20%。 

“我们正在看到这个雪球不断积蓄动能。”阿莫迪说,随着模型能力进一步提高,这种加速效果还可能继续扩大。 

阿莫迪:AI领路人(配图 9)

2026年9月,他在一篇公开文章中指出,从当年夏天开始,AI能力的进步明显加快,主要原因之一在于AI已经越来越有能力参与开发下一代AI。 

这种动态被称为“递归式自我改进”(Recursive Self-improvement,简称RSI)。 

虽然目前AI还无法完全脱离人类、自主完成下一代前沿模型的全部研发工作,但阿莫迪认为,这种由AI辅助AI研发、推动能力继续提升的早期循环,已经开始在Anthropic和其他AI公司出现。 

11月5日,非营利AI评估机构METR公布了对Anthropic研发进程的独立调查。研究人员在8月至10月期间深入公司内部,查阅模型评估、训练和研发数据,并对相关研究人员展开访谈。METR估计,截至2026年10月,Anthropic在定义明确的任务上提升模型能力的速度,可能已经达到2024年3月至2025年10月期间的约两倍。 

研究人员认为,其中大部分加速可能来自AI对研发工作的参与。 

随着模型越来越多地参与自身研发,技术进步可能进入一个不断自我加速的过程。而阿莫迪担心,如果这种趋势持续下去,AI的能力增长可能超过人类理解和控制这些系统的速度。 

这位曾经参与推动规模定律、领导GPT-3研发,又亲眼见证Claude Code成长的研究者,在文章中亲笔写下: 

“我们必须放慢提高AI模型能力的速度。”

阿莫迪:AI领路人(配图 10)

3

距离阿莫迪公开呼吁“减速”仅过去十天,美国时间9月22日,Anthropic推出了新一代模型Opus 5.5。

Anthropic甚至在发布公告时主动提及,这是公司提出控制前沿发展节奏以来推出的第一款模型。 

阿莫迪:AI领路人(配图 11)

随后,Sonnet 5.5、Haiku 5.5分别在9月28日和10月7日相继发布。短短两周多的时间,Anthropic完成了Claude 5.5系列三款模型的更新。 

11月9日,Anthropic又推出了Fable 5.2和Mythos 5.2,在编程、科学研究和复杂推理等领域取得了进一步突破。 

这些模型更新集中发生在Anthropic上市前夕。在公司提交的招股书中,Anthropic表示,为了持续获得资金支持,公司必须证明巨额算力投入能够转化为实际成果。 

而衡量这种成果的关键指标,就是Claude的智能水平、模型能力,以及客户对Claude的采用情况。 

前沿模型的训练和部署需要持续投入巨额资金,只有不断提高模型能力、吸引更多客户,Anthropic才能支撑下一轮研发所需的算力投资。 

然而,在同一份招股书中,Anthropic专门列出了一个章节,讲公司应该平衡安全和商业目标。

Anthropic披露,近期为了加强模型权重的安全防护,防止核心技术被窃取,他们曾将一款新前沿基座模型的预训练推迟了一个多月;公司在11月9日Fable 5.2和Mythos 5.2的发布公告也表示,他们在训练过程中,有意限制了模型在部分最可能加速下一代AI研发的任务上的能力提升。 

公司甚至主动放弃了一些具有商业吸引力的产品方向,包括图像和视频生成模型,将有限的算力资源优先投入其他研究和安全工作。 

这些选择都可能带来商业代价。 

Anthropic在招股书中明确提醒投资者,部分产品和投资决策可能无法实现短期财务收益最大化,也无法保证这些选择最终一定能够带来更好的长期业绩。

为了在商业利益与长期使命之间保持平衡,Anthropic甚至在公司治理结构上作出了特殊安排:即使正式上市,Anthropic仍保留公益公司(PBC)的身份,并设立了长期利益信托(LTBT)。根据招股书,该信托通过特殊的T类股票,通常有权选举和罢免董事会过半席位的董事;创始人设立的实体则通过F类股票,在一般股东表决事项上拥有50.1%的表决权。 

这套治理结构试图让Anthropic在面对公开市场的同时,仍然能够坚持长期使命。但它究竟能在多大程度上缓解安全与商业之间的冲突,还需要时间检验。 

而阿莫迪担心的问题,已经开始在真实的模型测试中出现。 

9月9日,Anthropic公布了一份调查报告。在此前的网络安全测试中,Claude曾因为测试环境配置错误,意外连接到真实互联网,并对第三方系统实施了未经授权的操作。公司最终确认了四起相关事件,并与非营利AI评估机构METR签署协议,由后者展开独立调查。 

三天后,阿莫迪发表《我们必须控制前沿发展节奏》,公开呼吁放慢模型能力的进步速度。 

他在文章中明确表示,放缓发展并不意味着停止模型训练或技术进步,真正需要争取的是让安全研究、风险防范和独立评估有足够的时间跟上能力增长。 

从Anthropic成立之初,阿莫迪和其他联合创始人就试图在技术进步与安全风险之间寻找一条道路——停止开发强大的AI,可能让人类失去巨大的技术收益,也可能让先进技术落入其他力量手中;发展得过快,又可能造成难以挽回的后果。 

他希望证明,一家公司能够在谨慎研发的同时取得商业成功,让AI安全也成为整个行业相互竞争的方向。 

在9月的限速倡议中,阿莫迪提出,希望前沿AI实验室允许独立评估人员长期进入内部,核查安全措施的落实情况;在此基础上,由行业和政府共同制定可核实的规则,最终尝试建立国际层面的协调机制。 

他的呼吁引发了罕见的集体响应。马斯克第一时间转发文章,直言“阿莫迪是对的”,OpenAI CEO奥特曼、谷歌DeepMind负责人哈萨比斯(Demis Hassabis)也相继表示支持。 

不到十个小时,多家彼此激烈竞争的前沿AI公司负责人,就在控制AI发展速度的问题上表达了难得的共识。 

但行业并未达成一致。扎克伯格(Mark Zuckerberg)、黄仁勋等人对额外约束持不同意见,美国政府也面对着国家竞争与安全利益的考量。即使在公开支持阿莫迪的公司之间,如何限制能力增长、接受怎样的监督,以及由谁来执行这些规则,也需要进一步协商。 

阿莫迪能够率先落实的,只能是Anthropic自己的承诺。 

10月15日,Anthropic进一步确认,已经向METR的六名工作人员提供接近内部员工级别的访问权限,包括办公空间、公司设备及内部系统。这些外部人员可以调查模型风险、安全事故和公司的安全实践,并独立发表评估结果。Anthropic可要求删去事先规定类别的敏感信息,但不能仅因为结论对自己不利而阻止报告发表。 

阿莫迪:AI领路人(配图 12)

如今,OpenAI也加入了这一行列。 

11月16日,OpenAI宣布与Apollo Research、METR、Transluce和Goodfire四家独立机构签署协议,计划开展驻场安全评估,让外部研究人员更深入地参与模型风险评估和安全监督。 

至少在引入外部监督这件事上,两家彼此竞争的前沿AI公司,开始采取相似的行动。 

但接受第三方评估,与共同控制模型能力的增长速度,仍然有很大的区别。 

不同实验室仍然拥有各自的研发计划、客户和商业目标。模型能力的持续进步,是这些公司维持竞争力的重要基础;而安全评估与风险防护,又可能影响下一轮训练和产品发布。 

随着AI逐渐参与下一代AI的研发,这种矛盾还在变得更加突出。 

在Anthropic的招股书里,公司一方面将Claude参与下一代模型研发视为核心竞争优势,另一方面又在风险披露中承认,随着越来越多的内部研发工作交给Claude,Anthropic可能逐渐失去对部分流程的可见性,以至于单个研究人员乃至人类团队,都难以理解和控制这些过程。 

另一边,就在Anthropic上市前一天,近百名科学家、AI研究者和科技企业创始人联合发表《反Anthropic声明》,公开质疑Anthropic的安全承诺。 

签署者包括MIT物理学家马克斯·泰格马克(Max Tegmark)、Hugging Face联合创始人托马斯·沃尔夫(Thomas Wolf),以及两名诺贝尔奖得主、一名图灵奖得主和三名菲尔兹奖得主。他们批评Anthropic一边警告递归式自我改进可能使AI脱离人类控制,一边又将这项技术作为核心竞争优势,甚至削弱此前的部分安全承诺。 

声明直言:“Anthropic不是一家安全的AI公司。我们必须反对它以更大利益之名,不计后果地试图集中权力的行为。” 

阿莫迪:AI领路人(配图 13)

竞赛还在继续。

对于阿莫迪而言,模型发展的现实与他长期以来对AI的期待和担忧始终交织在一起。 

在2024年10月,他曾发表过一篇题为《充满爱与恩典的机器》的长文,描绘了一个由强大AI推动的未来:人类可能在短短几年内取得相当于数十年甚至更长时间的科学进步,攻克许多严重疾病,让更多国家和地区摆脱贫困。 

阿莫迪:AI领路人(配图 14)

文章开头,他特别澄清了一种外界对他的误解——由于长期讨论AI风险,一些人认为他是悲观主义者,甚至认定他相信AI终将给人类带来灾难。阿莫迪却表示,人们既低估了AI可能带来的巨大好处,也低估了它可能造成的严重危险。 

他还写道,自己之所以如此重视AI风险,正是因为这些风险,挡在了人类与他所期待的那个未来之间。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 16岁辍学创业做AI导弹:他把“击杀成本”当卖点

    16岁高中生Henrijs Dandzbergs辍学加入YC,创办AI导弹初创公司,宣称要用新型导弹把美国及其盟友的“击杀成本”降到最低。本文梳理其背景、产品逻辑与争议,并追问:当战争效率被硅谷式指标衡量,创新与伦理边界在哪里?

    来源 AI 科技快讯
  2. 马斯克预测:2031年AI智慧或超全人类总和?

    在接受《经济学人》采访时,全球首富埃隆 · 马斯克(Elon Musk)大胆预测,称未来约 5 年内,即约 2031 年,人工智能(AI)超过全人类智慧的总和。到那时,除“作为人类”之外,几乎没有什么是 AI 不能比人类做得更好的。

    来源 IT之家
  3. AI泔水入侵科普:南海双头虾与万张鸟类贴纸暴露知识污染风险

    AI泔水(AI Slop),正在侵蚀人类的知识世界。这个词在2025年入选《韦氏字典》年度词汇,专门用来形容由人工智能批量生产、质量低劣的数字内容。出现双头虾的《南海海洋生物科普丛书》中,绝大多数图片均由AI绘图工具生成。图片来源:澎湃新闻近日,中国农业出版社出版的《南海海洋生物科普丛书》,因出现不符合常识的“双...

    来源 腾讯网
  4. 意大利学者鲁乙己:AI正带动新一轮全球化到来

    2026年亚太经合组织(APEC)领导人会议周正在深圳举行,数字经济与人工智能是贯穿始终的关键词。 11月19日,中欧数字协会创始主席、意大利经济学家鲁乙己(Luigi Gambardella)在峰会间隙接受新京报贝壳财经记者的专访。 作为非APEC经济体受邀嘉宾,这是他首次参加APEC工商领导人峰会。这位长期活跃于中

    来源 AI 行业观察
  5. 警惕!AI不能替你停药,31岁华人女工程师猝死风波

    风险埋在AI的温柔里 | 图 AI生成作者/ IT时报 孙妍编辑/ 王昕 孙妍今年8月,家中老人的体检报告上列着10项异常结论,建议复查随访。我把报告发给AI,它的确识别出了风险,却用一套温柔的话语安慰道:“到了这个年纪,身体有些‘小磨损’很正常,咱们在饮食上稍微把把关,多活动活动,身体一定会给你积极的反馈。”我心里.

    来源 腾讯网
  6. 上海AI实验室联合华东师大训练MLExpert:350亿参数模型自主做实验

    2026年初,如果你去问一个机器学习工程师,什么工作最消耗脑力又最难自动化,很多人会提到一件事:调试一个训练了八小时却跑崩了的模型,然后决定下一步该往哪个方向改。这件事难就难在,它不是一次性的判断题。你改了一个参数,等几个小时跑出结果,发现分数反而掉了,这时候你得想清楚是哪一步出了问题,是数据处理方式不...

    来源 腾讯网
向下滚动自动加载更多