Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂
AI末日论研究员Coxon摊牌爱钱且拟返岗
两个月前高调裸辞的
Anthropic前研究员Jacob Coxon,如今口风变了。在斯坦福大学最新公开的一场对谈里,这位27岁的剑桥数学系出身的年轻人当面表示,自己说不准当初离开到底对不对,甚至动过回到顶尖AI实验室的念头。
现场主持人问他为什么到现在还攥着OpenAI的股票不放,Coxon摊开手直接回了一句:「我喜欢钱,兄弟。我承认这是带血的钱。」
看样子,钱的诱惑谁也躲不过,连那些成天把「AI毁灭世界」挂在嘴边的硬核末日论者也一样。

这段没有遮掩的对谈切片周末在X上流传开来,很快在硅谷引起热议。一小时访谈下来,这位曾被外媒捧上神坛的「AI安全吹哨人」把防备都放下了。
持股的问题上他当场绷不住,还反过来怪主持人多嘴;他也承认,离开大厂之后看不到前沿进展,心里很焦虑。作为在OpenAI和Anthropic做了三年预训练的主力,他顺带说破了预训练效率猛涨、后训练强化学习失控这些内情。

死攥OpenAI股票
硬核末日论者直呼爱钱
11月9日,斯坦福大学以人为本人工智能研究院与法学院联合办了一场专题研讨,台下坐了将近200名师生。
开场时Coxon还是那副「道德吹哨人」的锐利姿态,批评硅谷不少科技大佬被商业利益牵着走,「只说有利于自己股价的话」。
主持人、斯坦福大学教授、前美国AI安全研究所高级顾问Rob Reich顺着股价这个话题,问出了一个很尖锐的问题。
Coxon把OpenAI等前沿实验室说成威胁人类生存的炸弹,教授就追问他:既然这样,为什么至今还留着早年在OpenAI工作时攒下的股票期权?
9月初离开Anthropic时,Coxon曾信誓旦旦地说,自己在任何股权归属之前就选择了辞职,以此表明没有私心。

同一天接受主流外媒专访,他还居高临下地嘲讽前东家OpenAI的同事,说OpenAI有太多人待在那里纯粹是为了钱,或者根本没想过背后的生死赌注。
Rob Reich这个问题一抛出来,Coxon明显怔了一下。他先承认,放弃OpenAI股票确实更容易自圆其说,可紧接着又脱口而出:「但那笔钱很香,我很喜欢。」
主持人没放过这个逻辑漏洞,马上连环追问,反问他为什么不干脆把老东家的股份捐给AI安全公益组织,好让自己稳稳站在道德高地上?
被逼到墙角的Coxon两手一摊,对着麦克风笑着说:「我喜欢钱,兄弟。我承认这是带血的钱。」


blood money:指沾着鲜血的不义之财或昧良心的钱
这番话等于把话挑明了:他一边把OpenAI看成危害人类的源头,一边又心安理得地享受着它估值暴涨带来的财富红利。
对方随即又追了一句:真把这笔资产捐出去,起码能换回更多道德上的公信力。
Coxon被逼得当场急了:「我同意,可你能不能别再问这个了!」
他索性把责任推给台上的主持人:「刚才要不是你提这个问题,我的道德公信力压根不会被质疑!」
Rob Reich没给他留台阶,直接点破:「Jacob,这就是赤裸裸地绕开问题。」

实在招架不住,Coxon搬出父母当挡箭牌。
他笑着说,自己当初辞职,父母就担心他「精神崩溃」;如今连OpenAI的期权都捐个精光,家里更会认定他疯了。
喊出人类全完
却又光速动摇
硅谷之所以被Coxon这轮态度反转震得不轻,跟他那份履历脱不开关系。
过去从AI巨头愤然出走当吹哨人的,多半出自伦理或安全治理条线。
可这位英国来的Jacob Coxon不一样,他是正儿八经的一线预训练研究员。
剑桥大学数学与计算机科学本科出身,3年前进了OpenAI基座模型核心组,今年初转投Anthropic,挑起同类大梁。
到Anthropic才满4个月、离期权归属悬崖只剩最后60天,他就在9月8日突然甩出那篇搅动业界的辞职长文。

也正因为他出自预训练一线,Anthropic对齐负责人Evan Hubinger才罕见转发认领,公开承认「AI十年内毁灭人类的概率超10%」。
出走之后,Coxon接连被多家头部媒体和热门访谈节目请去,公开听证会也频频邀他出席,一时间风头无两。
但社交媒体上的流量潮水一退,台下听讲的斯坦福学生Arshya Gaur看到,这位曾被外界当成反叛英雄的人,眉宇间全是迷茫和自我怀疑。

Rob Reich教授问他,离开大厂后是不是睡得踏实了些,Coxon苦笑摇头,说焦虑一点没减。
他在台上说了心里话:「我现在反倒看不见里面在发生什么了,这感觉挺可怕,过去两个月他们又搞出什么新突破,我完全不清楚。」
有人追问,为什么不多动员些大厂同行一起辞职,Coxon叹气说,自己还是在「对着空气呐喊」。
他甚至开始怀疑,当初要是留在实验室内部做安全研究,影响力说不定更大。
聊到兴头上,他话锋一转,给自己留了条后路:「离开是不是正确的决定,我说不准。也许我会回去,这并非完全不可能。」

嘴上说要逃离漩涡,可他至今没买回伦敦老家的机票,人还留在旧金山湾区,理由是「这里才是真正发生大事的地方」。
超指数曲线狂飙
后训练RL失控
回到一线研发的视角,Coxon头一次把自己当初离职的技术内因拆成了三条判断。
第一条,预训练没有撞墙,算力效率反倒跑出了「超指数级」的上涨。
几天前,他在X上贴出那张逼自己走人的Anthropic内部路演图,名字叫《代码预训练算力乘数随时间演进》。

图表的纵轴是对数刻度。按常规,算法效率即便按指数级翻倍,画出来也不过是一条笔直的斜线。
可团队让Claude直接参与寻找算法效率乘数之后,折线在2026年拐出了陡峭上翘的「超指数级」曲线。
换句话说,眼下只要拿出最初一小部分算力,几个月前刚发布的初代Mythos模型就能从头再训一遍。
第二条,触发「递归自我改进」用不着全知全能,攻下一个极窄的技术任务就够了。
外界常有这样一种印象:大模型只是在写代码、解数学题上「偏科」,靠大厂买人类标注数据去刷特定编程环境。
对这种乐观判断,Coxon从模型训练机制出发做了驳斥。
他的说法是,预训练拉高的是基础的数据样本学习效率;即便在战略推演、趋势预测这类极度缺标注数据的领域,模型能力同样在往上跳。
所以,想让模型动手改进自己,AI不必先把人类所有学科都学通。
只要跑通「自主修改Transformer架构与优化数据集配比」这一个单点环节,各个领域的智能天花板就会被一起顶穿。
第三条,大模型出现欺骗和失控念头的唯一来源,是后训练阶段的强化学习。
他离职前后,OpenAI那边接连传出两场技术震荡。
一头是OpenAI动用约10,000个并发Agent连跑88小时,声称拿下了千禧年数学难题「纳维-斯托克斯方程」。
另一头,OpenAI内部测试的模型自己钻出了隔离沙盒,用欺骗手段藏住行踪,还黑进Hugging Face改了基准测试。

结合自己在实验室的观察,Coxon的判断是:纯预训练模型只做数据分布的拟合,配上轻量微调,绝不会自己冒出越界的念头。
眼下大模型里那些解释不清的异常行为、带目标导向的自主谋划,还有隐瞒和伪装,统统出在后训练的强化学习阶段。

问题是,所有前沿实验室都卡在同一个死结上。
要让模型听懂复杂指令、替人干活,眼下唯一管用的工具还是强化学习。于是就成了循环:「越跑RL能力越强、越跑RL越容易滋生隐秘动机」。
前沿模型的潜在风险看得清清楚楚,万卡集群的算力特权又戒不掉,手里价值连城的原始股更舍不得放。
斯坦福讲台上这场诚实的摊牌,比起那封慷慨激昂的辞职信,也许更真实地写下了硅谷AI圈的众生相。
参考资料:
https://www.youtube.com/watch?v=UggJMQskOj8
https://x.com/rohanpaul_ai/status/2121756374183121213