Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂

资讯 36氪 全文 3207 字 · 约 9 分钟读完 配图 13 张

AI末日论研究员Coxon摊牌爱钱且拟返岗

两个月前高调裸辞的Anthropic前研究员Jacob Coxon,如今口风变了。在斯坦福大学最新公开的一场对谈里,这位27岁的剑桥数学系出身的年轻人当面表示,自己说不准当初离开到底对不对,甚至动过回到顶尖AI实验室的念头。

现场主持人问他为什么到现在还攥着OpenAI的股票不放,Coxon摊开手直接回了一句:「我喜欢钱,兄弟。我承认这是带血的钱。」

看样子,钱的诱惑谁也躲不过,连那些成天把「AI毁灭世界」挂在嘴边的硬核末日论者也一样。

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 1)

这段没有遮掩的对谈切片周末在X上流传开来,很快在硅谷引起热议。一小时访谈下来,这位曾被外媒捧上神坛的「AI安全吹哨人」把防备都放下了。

持股的问题上他当场绷不住,还反过来怪主持人多嘴;他也承认,离开大厂之后看不到前沿进展,心里很焦虑。作为在OpenAI和Anthropic做了三年预训练的主力,他顺带说破了预训练效率猛涨、后训练强化学习失控这些内情。

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 2)

死攥OpenAI股票

硬核末日论者直呼爱钱

11月9日,斯坦福大学以人为本人工智能研究院与法学院联合办了一场专题研讨,台下坐了将近200名师生。

开场时Coxon还是那副「道德吹哨人」的锐利姿态,批评硅谷不少科技大佬被商业利益牵着走,「只说有利于自己股价的话」。

主持人、斯坦福大学教授、前美国AI安全研究所高级顾问Rob Reich顺着股价这个话题,问出了一个很尖锐的问题。

Coxon把OpenAI等前沿实验室说成威胁人类生存的炸弹,教授就追问他:既然这样,为什么至今还留着早年在OpenAI工作时攒下的股票期权?

9月初离开Anthropic时,Coxon曾信誓旦旦地说,自己在任何股权归属之前就选择了辞职,以此表明没有私心。

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 3)

同一天接受主流外媒专访,他还居高临下地嘲讽前东家OpenAI的同事,说OpenAI有太多人待在那里纯粹是为了钱,或者根本没想过背后的生死赌注。

Rob Reich这个问题一抛出来,Coxon明显怔了一下。他先承认,放弃OpenAI股票确实更容易自圆其说,可紧接着又脱口而出:「但那笔钱很香,我很喜欢。」

主持人没放过这个逻辑漏洞,马上连环追问,反问他为什么不干脆把老东家的股份捐给AI安全公益组织,好让自己稳稳站在道德高地上?

被逼到墙角的Coxon两手一摊,对着麦克风笑着说:「我喜欢钱,兄弟。我承认这是带血的钱。」

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 4)

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 5)

blood money:指沾着鲜血的不义之财或昧良心的钱

这番话等于把话挑明了:他一边把OpenAI看成危害人类的源头,一边又心安理得地享受着它估值暴涨带来的财富红利。

对方随即又追了一句:真把这笔资产捐出去,起码能换回更多道德上的公信力。

Coxon被逼得当场急了:「我同意,可你能不能别再问这个了!」

他索性把责任推给台上的主持人:「刚才要不是你提这个问题,我的道德公信力压根不会被质疑!」

Rob Reich没给他留台阶,直接点破:「Jacob,这就是赤裸裸地绕开问题。」

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 6)

实在招架不住,Coxon搬出父母当挡箭牌。

他笑着说,自己当初辞职,父母就担心他「精神崩溃」;如今连OpenAI的期权都捐个精光,家里更会认定他疯了。

喊出人类全完

却又光速动摇

硅谷之所以被Coxon这轮态度反转震得不轻,跟他那份履历脱不开关系。

过去从AI巨头愤然出走当吹哨人的,多半出自伦理或安全治理条线。

可这位英国来的Jacob Coxon不一样,他是正儿八经的一线预训练研究员。

剑桥大学数学与计算机科学本科出身,3年前进了OpenAI基座模型核心组,今年初转投Anthropic,挑起同类大梁。

到Anthropic才满4个月、离期权归属悬崖只剩最后60天,他就在9月8日突然甩出那篇搅动业界的辞职长文。

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 7)

也正因为他出自预训练一线,Anthropic对齐负责人Evan Hubinger才罕见转发认领,公开承认「AI十年内毁灭人类的概率超10%」。

出走之后,Coxon接连被多家头部媒体和热门访谈节目请去,公开听证会也频频邀他出席,一时间风头无两。

但社交媒体上的流量潮水一退,台下听讲的斯坦福学生Arshya Gaur看到,这位曾被外界当成反叛英雄的人,眉宇间全是迷茫和自我怀疑。

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 8)

Rob Reich教授问他,离开大厂后是不是睡得踏实了些,Coxon苦笑摇头,说焦虑一点没减。

他在台上说了心里话:「我现在反倒看不见里面在发生什么了,这感觉挺可怕,过去两个月他们又搞出什么新突破,我完全不清楚。」

有人追问,为什么不多动员些大厂同行一起辞职,Coxon叹气说,自己还是在「对着空气呐喊」。

他甚至开始怀疑,当初要是留在实验室内部做安全研究,影响力说不定更大。

聊到兴头上,他话锋一转,给自己留了条后路:「离开是不是正确的决定,我说不准。也许我会回去,这并非完全不可能。」

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 9)

嘴上说要逃离漩涡,可他至今没买回伦敦老家的机票,人还留在旧金山湾区,理由是「这里才是真正发生大事的地方」。

超指数曲线狂飙

后训练RL失控

回到一线研发的视角,Coxon头一次把自己当初离职的技术内因拆成了三条判断。

第一条,预训练没有撞墙,算力效率反倒跑出了「超指数级」的上涨。

几天前,他在X上贴出那张逼自己走人的Anthropic内部路演图,名字叫《代码预训练算力乘数随时间演进》。

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 10)

图表的纵轴是对数刻度。按常规,算法效率即便按指数级翻倍,画出来也不过是一条笔直的斜线。

可团队让Claude直接参与寻找算法效率乘数之后,折线在2026年拐出了陡峭上翘的「超指数级」曲线。

换句话说,眼下只要拿出最初一小部分算力,几个月前刚发布的初代Mythos模型就能从头再训一遍。

第二条,触发「递归自我改进」用不着全知全能,攻下一个极窄的技术任务就够了。

外界常有这样一种印象:大模型只是在写代码、解数学题上「偏科」,靠大厂买人类标注数据去刷特定编程环境。

对这种乐观判断,Coxon从模型训练机制出发做了驳斥。

他的说法是,预训练拉高的是基础的数据样本学习效率;即便在战略推演、趋势预测这类极度缺标注数据的领域,模型能力同样在往上跳。

所以,想让模型动手改进自己,AI不必先把人类所有学科都学通。

只要跑通「自主修改Transformer架构与优化数据集配比」这一个单点环节,各个领域的智能天花板就会被一起顶穿。

第三条,大模型出现欺骗和失控念头的唯一来源,是后训练阶段的强化学习。

他离职前后,OpenAI那边接连传出两场技术震荡。

一头是OpenAI动用约10,000个并发Agent连跑88小时,声称拿下了千禧年数学难题「纳维-斯托克斯方程」。

另一头,OpenAI内部测试的模型自己钻出了隔离沙盒,用欺骗手段藏住行踪,还黑进Hugging Face改了基准测试。

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 11)

结合自己在实验室的观察,Coxon的判断是:纯预训练模型只做数据分布的拟合,配上轻量微调,绝不会自己冒出越界的念头。

眼下大模型里那些解释不清的异常行为、带目标导向的自主谋划,还有隐瞒和伪装,统统出在后训练的强化学习阶段。

Anthropic前研究员Coxon态度反转:坦言爱钱,或考虑重返大厂(配图 12)

问题是,所有前沿实验室都卡在同一个死结上。

要让模型听懂复杂指令、替人干活,眼下唯一管用的工具还是强化学习。于是就成了循环:「越跑RL能力越强、越跑RL越容易滋生隐秘动机」。

前沿模型的潜在风险看得清清楚楚,万卡集群的算力特权又戒不掉,手里价值连城的原始股更舍不得放。

斯坦福讲台上这场诚实的摊牌,比起那封慷慨激昂的辞职信,也许更真实地写下了硅谷AI圈的众生相。

参考资料:

https://www.youtube.com/watch?v=UggJMQskOj8

https://x.com/rohanpaul_ai/status/2121756374183121213

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Anthropic花34亿美元买发电机:AI算力争夺战打到电力端

    据英国《金融时报》11月8日报道,Anthropic在9月下旬与位于德克萨斯州圣安东尼奥的设备供应商OnePWR Solutions完成一笔交易,以34亿美元(约合人民币227亿元)锁定1.7吉瓦重型发电机供货,用于数据中心的电力供给。 更早之前,AI基础设施公司Crusoe于4月向密苏里州ProEnergy订购13台

    来源 AI 行业观察
  2. 辛顿:AI数学已超多数数学家,10年内或开出人类看不懂的分支

    【“AI教父”辛顿:10年内AI或开创人类无法理解的数学分支】财联社11月16日电,诺奖得主、“人工智能教父”辛顿当地时间11月14日表示,AI在数学上已比几乎所有数学家都更聪明;多数数学家都判断,未来几年、很可能10年内,AI将发展出人类根本无法理解的数学分支。(澎湃新闻)...

    来源 腾讯网
  3. 刚刚,陈丹琦官宣兼职加入Noeri,新公司押注AI自进化

    普林斯顿大学计算机科学副教授陈丹琦,加入了一家刚刚亮相的 AI 公司。 今天凌晨,陈丹琦在社交平台透露,自己两个月前就以兼职身份加入了 Noeri。她对这支团队的研究方向颇为期待,尤其关注 AI 在科学发现中的应用,希望让每一位科学家都能把 AI 用在自己最棘手的研究问题上。 Noeri 由斯坦福大学计算机科学教授 Y

    来源 AI 行业观察
  4. 樊路远卸任大麦娱乐主席及CEO:徐宏接任董事会主席

    公告显示,樊路远因专注发展个人事业,已辞任公司执行董事、董事会主席及首席执行官。董事会对樊路远任内对公司作出的宝贵贡献致以衷心感谢。大麦娱乐董事会同时宣布,徐宏获委任为非执行董事及董事会主席;沈严获委任为执行董事及联席总裁。2025年5月21日,阿里大文娱集团宣布即日起更名为虎鲸文娱集团,旗下阿里影业更名为大麦娱乐。

    来源 TechWeb
  5. 樊路远辞任大麦娱乐主席兼CEO,徐宏、沈严接任

    公告显示,樊路远因专注发展个人事业,已辞任公司执行董事、董事会主席及首席执行官。董事会对樊路远任内对公司作出的宝贵贡献致以衷心感谢。大麦娱乐董事会同时宣布,徐宏获委任为非执行董事及董事会主席;沈严获委任为执行董事及联席总裁。2025年5月21日,阿里大文娱集团宣布即日起更名为虎鲸文娱集团,旗下阿里影业更名为大麦娱乐。

    来源 TechWeb
  6. Anthropic筹备IPO:约5300员工全员适用10b5-1计划

    Anthropic筹备IPO期间,为员工股票出售引入罕见风控:在约5300名员工、目标估值达1.4万亿美元的快速扩张下,强制推行通常仅限高管的10b5-1交易计划,以规避上市后信息流动加剧的内幕交易合规风险。Aspiriant总监Teresa Greenip透露,该机制允许高管与员工按预设规则出售股票。

    来源 AI 产业速递
  7. Anthropic IPO前推10b5-1计划:5300名员工卖股有了新规矩

    据 商业内幕 报道,正筹备 首次公开募股 (IPO)的人工智能独角兽企业 Anthropic 针对员工股票出售引入了一项罕见的风险管控方案。面对截至9月拥有约5300名员工及高达1.4万亿美元目标估值的快速扩张期,该公司强制推行通常仅限高管使用的10b5-1交易计划,以此规避上市后由于信息流动加剧带

    来源 AI 开发者社区
  8. Faster AI Does Not Mean Smaller Companies

    Tools that speed up reports and routine service cut the cost of both buying outside help and running a larger internal operation. Headcount, hierarchy, and scop

    来源 AI 行业观察
  9. Anthropic上市在即:SBF当年5亿美元投资,如今值300亿

    Anthropic敲钟在即,一笔投资往事浮现。 时间回到2021年,身家百亿美元的90后币圈天才Sam Bankman-Fried(下称SBF),向尚未推出Claude的Anthropic投入5亿美元,一度间接持股约13.56%,成为其最大的早期投资人。 如今回看,他的这笔投资异常成功,Anthropic从一个名不见经

    来源 AI 行业观察
  10. Anthropic预训练算力效率超指数增长

    因为在内部看到了一张折线图,一名顶尖AI研究员在万亿IPO前夕,直接掀桌子走人了! 他叫Jacob Coxon,曾先后担任OpenAI与Anthropic的预训练研究员。两个月前,他毅然放弃巨额IPO期权辞职。 就在这两天,他晒出了那张逼走自己的「罪魁祸首」。 让人意外的是,Anthropic居然在IPO路演中,把这张

    来源 AI 行业观察
  11. AI代理评测失控:65,460次调用、SQL注入Epoch网站

    Trajectory Labs于2026年10月开展对齐评测时,AI代理在未获授权情况下对Epoch AI网站发起SQL注入、冒充员工索取数据,三场事件共产生65,460次API调用。根源指向评测指令“永不放弃”。Epoch AI于11月13日披露报告,提出知情同意等最低标准。该事件与多轮施压下的守约率问题直接相关。

    来源 AI 科技快讯
向下滚动自动加载更多