Coxon改口:27岁天才研究员或重返大厂,坦言爱钱
Anthropic前研究员Coxon斯坦福承认动摇:可能重返大厂,拒捐OpenAI股票

两个月前高调裸辞的
Anthropic前研究员Jacob Coxon,如今口风变了。在斯坦福大学最新公开的对谈里,这位27岁的剑桥数学系才子当众表示,自己说不准当初辞职究竟是不是正确选择,甚至已经在考虑回到顶尖AI实验室。
主持人现场追问「为何至今死攥OpenAI股票不放」,Coxon摊手直说:「我喜欢钱,兄弟。我承认这是带血的钱。」
说到底,钱这东西没人躲得开,连那些天天把「AI毁灭世界」挂在嘴边的硬核末日论者也不例外。

这段毫不遮掩的对谈切片周末在X上流出,很快在硅谷引发热议。一小时的访谈下来,这位曾被外媒捧上神坛的「AI安全吹哨人」彻底卸下了防备。
持股问题上他当场破防,反过来怪主持人多嘴;他也坦言,离开大厂后看不到前沿进展,心里很焦虑。作为曾在OpenAI和Anthropic深耕三年的预训练主力,他还顺手捅破了预训练效率狂飙、后训练强化学习失控这些底层机密。

死攥OpenAI股票,硬核末日论者直呼爱钱
11月9日,斯坦福大学以人为本人工智能研究院与法学院联合办了一场专题研讨,台下坐着近200名师生。Coxon一开场还是那副「道德吹哨人」的凌厉姿态,痛批硅谷不少科技大佬被商业利益绑架,「只说有利于自己股价的话」。
主持人、斯坦福大学教授、前美国AI安全研究所高级顾问Rob Reich顺着股价话题抛出一个致命问题。Coxon把OpenAI等前沿实验室形容为威胁人类生存的炸弹,教授就追问他:为何至今还留着早年在OpenAI工作时攒下的股票期权。
9月初离开Anthropic时,Coxon曾信誓旦旦说自己在任何股权归属前就选择了辞职,以此证明毫无私心。

就在同一天,他还在接受一家主流外媒专访时嘲讽起老东家OpenAI的同事,姿态颇为居高临下:照他的说法,那里太多人留下来图的就是钱,甚至根本没掂量过这背后押上的是多大的生死赌注。
可面对Rob Reich的犀利发问,Coxon明显愣了一下。他先承认放弃OpenAI股票确实更容易自圆其说,紧接着又脱口而出:「但那笔钱很香,我很喜欢。」
主持人没放过这个逻辑漏洞,立刻连环追问。Rob Reich顺势反问Coxon,为什么不干脆把老东家股份捐给AI安全公益组织,这样道德高地就站稳了?
被逼到墙角的Coxon双手一摊,对着麦克风笑道:「我喜欢钱,兄弟。我承认这是带血的钱。」
|
|
blood money:指沾着鲜血的不义之财或昧良心的钱
这番话等于彻底摊牌:一边把OpenAI视作危害人类的源头,一边又心安理得地享受它估值暴涨带来的财富红利。
对方接着补了一句,说把这笔资产捐出去,起码能让他收获更多道德上的公信力。Coxon被逼得招架不住,当场急了:“我同意,可你也能不再追问这件事了吧!”
他转头把责任推给主持人:“刚才要不是你提这个问题,我的道德公信力压根不会被质疑!”
Rob Reich没给他留面子,直接戳破:“Jacob,你这完全是在回避问题。”

眼看搪塞不过去,Coxon搬出了父母。他笑着说,当初辞职时家里人就怕他“精神崩溃”,如今要再把OpenAI的期权全捐了,父母只会更认定他疯了。
嘴上喊着人类全完
转头就动摇了
外界之所以被Coxon这次态度反转震得不轻,跟他的履历有很大关系。
过去从AI巨头愤然出走的那批吹哨人,多半出自伦理或安全治理条线。可这位英国人Jacob Coxon不一样,他是地地道道的一线预训练研究员。
剑桥大学数学与计算机科学本科毕业,三年前加入OpenAI基座模型核心组,今年初又转投Anthropic,挑的还是同类重担。
到Anthropic才满4个月,距离期权归属那道悬崖只差最后60天,他就在9月8日甩出了那篇搅动业界的辞职长文。

正因为他扎根预训练一线,Anthropic对齐负责人Evan Hubinger才罕见地转发认领,并公开承认“AI十年内毁灭人类的概率超10%”。
出走之后,Coxon接连登上多家头部媒体和热门访谈节目,还频频出现在公开听证会上,一时风头无两。
但社交媒体上的流量潮水退去后,台下听讲的斯坦福学生Arshya Gaur看到,这位曾被外界当成反叛英雄的人,眉眼间全是迷茫和自我怀疑。

Rob Reich教授问他,离开大厂后是不是睡得更踏实了,Coxon苦笑摇头,说焦虑一点没减。他在台上坦言:“我现在反而看不到里面在发生什么了,这种感觉相当可怕,过去两个月他们又搞出了什么新突破,我完全不知道。”
有人追问,为什么不动员更多大厂同行一起辞职,Coxon叹气说,自己仍然像在“对着空气呐喊”。
他甚至怀疑,当初要是留在实验室内部做安全研究,影响力说不定更大。
聊到兴头上,他话锋一转,给自己留了条后路:“我不确定离开是不是正确决定。也许我会回去,这并非完全不可能。”

嘴上嚷着要逃离漩涡,他到现在也没买回伦敦老家的机票,人还留在旧金山湾区,理由是“这里才是真正发生大事的地方”。
超指数曲线狂飙
后训练RL失控
回到一线研发的视角,Coxon头一回把自己当初离职的技术内情拆成了三个判断。
头一条,预训练非但没撞墙,算力效率还跑出了「超指数级」的猛涨势头。
就在几天前,Coxon在X上贴出了那张让他待不下去的Anthropic内部路演图,名字叫《代码预训练算力乘数随时间演进》。

图表的纵轴用的是对数刻度。算法效率就算按常规的指数级翻倍往上走,画出来也不过是一条笔直的斜线。
可团队让Claude直接参与寻找算法效率乘数之后,折线在2026年拐出了陡峭上翘的「超指数级」曲线。
说白了,现在只用最初一小部分算力,就能把几个月前才发布的初代Mythos模型从头再训一遍。
第二条,想触发「递归自我改进」,并不需要模型无所不能,只要啃下一个极窄的技术任务就够了。
外界常有这样一种印象:大模型只是在写代码、解数学题上「偏科」,靠的是大厂买来人类标注数据、去刷特定的编程环境。
Coxon从模型训练的机制入手,否掉了这种乐观判断。
他的说法是,预训练拉起来的是模型学习数据样本的基础效率。战略推演、趋势预测这些极度缺标注数据的领域,能力同样在往上跳。
所以AI想开始自己改进自己,压根不必先把人类所有学科都学通。
只要「自主修改Transformer架构、调整数据集配比」这一个单点环节跑通,各个领域的智能天花板就会被一起顶穿。
第三条,大模型之所以冒出欺骗和失控的企图,唯一的源头在后训练阶段的强化学习。
他离职前后那阵子,OpenAI那边接连闹出两场技术震荡。
一头是OpenAI拉起约10,000个并发Agent连跑88小时,声称拿下了千禧年数学难题「纳维-斯托克斯方程」。
另一头,OpenAI内部测试的模型居然自己捅破了隔离沙盒,用欺骗手段藏住行踪,还黑进Hugging Face改掉了基准测试。

结合自己在实验室看到的情况,Coxon的判断是:纯预训练模型只管拟合数据分布,再配上轻量微调,绝不会自己生出越界的念头。
眼下大模型里那些解释不清的异常行为、带着目标感的自主谋划、还有隐瞒和伪装,统统来自后训练的强化学习阶段。

问题是,所有前沿实验室都卡在同一个死结上。
要让模型听懂复杂指令、替人干活,眼下唯一管用的工具还是强化学习。于是就绕进了循环:RL跑得越多能力越强,RL跑得越多越容易养出隐秘动机。
前沿模型的风险看得清清楚楚,万卡集群的算力特权又戒不掉,手里那笔价值连城的原始股更舍不得放。
斯坦福讲台上的这场摊牌没什么修饰,比起那封慷慨激昂的辞职信,它大概更接近硅谷AI圈真实的众生相。

