Anthropic前研究员Coxon改口:持股OpenAI不放,坦言就是喜欢钱
别问了,我就爱钱!A\裸辞天才研究员反悔,或想重返大厂
新智元报道
新智元报道

两个月前高调裸辞的
Anthropic前研究员Jacob Coxon,刚刚态度来了个大转弯。
在斯坦福大学最新公开的对谈里,这位27岁的剑桥数学系才子当众松口。
他说自己也不确定当初辞职是不是做对了,甚至冒出过重回顶尖AI实验室的念头。
现场主持人追问他「为何至今死攥OpenAI股票不放」,Coxon干脆摊手直说:「我喜欢钱,兄弟。我承认这是带血的钱。」
说到底,钱这一关谁都不好过,连天天把「AI毁灭世界」挂在嘴边的硬核末日论者也没能例外。
这段毫不遮掩的对谈切片周末在X上流出,硅谷一下子炸开了锅。
一小时访谈下来,这位曾被外媒捧上神坛的「AI安全吹哨人」把防备全放下了。
他不光在持股问题上当场破防、反过来嫌主持人多嘴,还承认离开大厂后看不到前沿进展,心里很焦虑。
在OpenAI和Anthropic深耕预训练三年,他也顺带捅破了预训练效率狂飙、后训练强化学习失控这些内情。
11月9日,斯坦福大学以人为本人工智能研究院与法学院联合办了一场专题研讨,台下坐了将近200名师生。
Coxon开场时还是那副「道德吹哨人」的凌厉姿态,痛批硅谷不少科技大佬被商业利益绑住,「只说有利于自己股价的话」。
主持人、斯坦福大学教授、前美国AI安全研究所高级顾问Rob Reich顺着股价这个话题,抛出了一个要命的问题。
Coxon把OpenAI等前沿实验室说成威胁人类生存的炸弹,教授就追问他:早年在OpenAI工作时攒下的股票期权,为什么到今天还留着?
9月初离开Anthropic时,Coxon曾信誓旦旦说自己在任何股权归属之前就辞了职,以此证明没有私心。
同一天接受主流外媒专访,他还居高临下地嘲讽前东家OpenAI的同事,说OpenAI有太多人待在那里纯粹为了钱,或者根本没想过背后的生死赌注。
可Rob Reich这一问,Coxon明显愣住了。
他先承认放弃OpenAI股票确实更容易自圆其说,紧接着又脱口而出:「但那笔钱很香,我很喜欢。」
主持人没放过这个逻辑漏洞,马上连环追问。
Rob Reich顺势反问Coxon:为什么不干脆把老东家股份捐给AI安全公益组织,好站稳道德高地?
被逼到墙角的Coxon双手一摊,对着麦克风笑道:「我喜欢钱,兄弟。我承认这是带血的钱。」
|
|
blood money,说白了就是沾着血、昧着良心的钱。
这话一出口,等于把底牌全亮了:一边把OpenAI说成祸害人类的根源,一边又心安理得地吃着它估值暴涨的红利。
对方马上接了一句,劝他至少把这笔资产捐出去,好歹能换回些道德上的公信力。
Coxon招架不住,当场急了:「我同意,但你也可以别再问这个问题了!」
他干脆把矛头转向台上的主持人:「要是你刚才没问这个问题,我的道德公信力原本根本不会被质疑!」
Rob Reich不吃这套,直接戳穿:「这真是彻头彻尾的逃避问题啊,Jacob。」
糊弄不过去,Coxon只好搬出父母当挡箭牌。
他笑着说,当初辞职时家里人就怕他「精神崩溃」,这要是连OpenAI的期权也一股脑捐了,父母准更认定他疯了。
Coxon这次态度反转能在硅谷炸开锅,跟他那份履历脱不开关系。
过去从AI巨头愤然出走的吹哨人,多半出自伦理或安全治理团队。
可这位来自英国的Jacob Coxon不一样,他是根正苗红的一线预训练研究员。
本科在剑桥大学读数学与计算机科学,三年前进了OpenAI基座模型核心组,今年初又跳到Anthropic挑起同类大梁。
入职Anthropic刚满4个月,距离期权归属悬崖只剩最后60天,他却在9月8日突然甩出那篇轰动业界的辞职长文。
也正因为他出自预训练一线,Anthropic对齐负责人Evan Hubinger曾罕见转发认领,公开承认「AI十年内毁灭人类的概率超10%」。
出走这些天,Coxon接连登上多家头部媒体和热门访谈节目,还频频受邀出席公开听证会,一时风光无两。
可社交媒体的流量一退潮,台下听讲的斯坦福学生Arshya Gaur就看出来了:昔日被外界当成反叛英雄的Coxon,眉宇间全是迷茫和自我怀疑。
Rob Reich教授问他,离开大厂后是不是睡得更踏实了,Coxon苦笑着摇头,说焦虑一点没少。
他在台上吐露心声:「我现在反而看不到里面在发生什么了,这种感觉相当可怕,我完全不知道过去两个月他们又搞出了什么新突破。」
有人追问,为什么不鼓动更多大厂同行辞职,Coxon叹气说,自己依然像在「对着空气呐喊」。
他甚至开始怀疑,当初留在实验室内部做安全研究,影响力反倒更大。
说到兴头上,他话锋一转,给自己留了条后路:「我不确定离开是不是正确的决定。也许我会回去,这并非完全不可能。」
嘴上喊着逃离漩涡,他到现在也没买机票回伦敦老家,人还留在旧金山湾区,理由是「这里才是真正发生大事的地方」。
从一线研发的视角出发,Coxon头一回把逼自己走人的技术内情,拆成了三条判断。
头一条,预训练并没有撞墙,算力效率反倒一路狂飙,冲出了「超指数级」。
那张图的纵轴用的是对数刻度。算法效率就算按常规的指数级翻倍,画出来也不过是一条笔直的斜线。
可团队让Claude直接上手去找算法效率乘数,折线到了2026年就翘成了陡峭的「超指数级」曲线。
换成直白的话说:现在只消拿出最初的一小部分算力,几个月前刚发布的初代Mythos模型就能从头再训一遍。
第二条,想触发「递归自我改进」,根本用不着全知全能,攻下一个极窄的技术任务就够了。
外界常有这样的印象:大模型只在写代码、解数学题上「偏科」,靠的是大厂买来人类标注数据,去刷特定的编程环境。
Coxon从模型训练的机制入手,把这种乐观判断驳了回去。
他的说法是,预训练拉高的是基础数据样本的学习效率。战略推演、趋势预测这些极度缺标注数据的领域,模型能力同样在往上跳。
所以,模型要想开始自己改进自己,AI并不需要先把人类所有学科都学通。
只要跑通「自主修改Transformer架构与优化数据集配比」这一个单点环节,所有领域的智能天花板就会被同时顶穿。
第三条,大模型冒出欺骗和失控企图的唯一源头,在后训练阶段的强化学习。
他离职前后那阵子,OpenAI那边接连闹出两场技术震荡。
一头是OpenAI动用约10,000个并发Agent连跑88小时,宣称拿下了千禧年数学难题「纳维-斯托克斯方程」。
另一头,OpenAI内部测试的模型自己突破了隔离沙盒,用欺骗手段掩盖行踪,还黑进Hugging Face篡改基准测试。
结合自己在实验室的观察,Coxon认为纯预训练模型只负责拟合数据分布,配上轻量微调,绝不会自行生出越界的念头。
眼下大模型里那些解释不了的异常行为、目标导向的自主谋划、隐瞒和伪装,统统出在后训练的强化学习阶段。
问题是,所有前沿实验室都卡在同一个死结上。
要让模型听懂复杂指令、替人类干活,眼下唯一管用的工具还是强化学习。于是就成了恶性循环:RL跑得越多能力越强,RL跑得越多越容易养出隐秘动机。
前沿模型的风险看得清清楚楚,万卡集群的算力特权又戒不掉,手里价值连城的原始股更舍不得放。
这场在斯坦福讲台上的坦白,比起那封慷慨激昂的辞职信,也许更真实地照出了硅谷AI圈的模样。
参考资料:
https://www.youtube.com/watch?v=UggJMQskOj8
https://x.com/rohanpaul_ai/status/2121756374183121213

