考克森离职Anthropic内幕:IPO路演一张图成导火索?
IT之家 11 月 14 日消息,曾任职于 OpenAI 和 Anthropic、因公开警告 AI 风险而受到广泛关注的研究员雅各布 · 考克森称,Anthropic 在 IPO 路演中展示的一张幻灯片,是促使他离职的重要原因。考克森在 Anthropic 只工作了约四个月。让他决定离职的原因之一,是公司 IPO 路演
雅各布 · 考克森曾在 OpenAI 和 Anthropic 任职,因公开警告 AI 风险而受到广泛关注。他透露,Anthropic 在 IPO 路演中展示的一张幻灯片,是他选择离职的关键原因之一。
考克森在
Anthropic 仅待了约 4 个月。促使他下决心离开的因素里,有一张图展示了 AI 模型训练算力需求的变化,出现在公司 IPO 路演材料中。11 月 14 日消息传出后,这张图成为讨论焦点。
不过,曲线照样一路陡峭。考克森据此判断,算法效率的提升本身就很快,而且提速的势头还在加强。他直言:“这张图实在太惊人了,没想到他们竟然会公开。”
在考克森看来,Anthropic 今年春季发布的 Mythos 性能大幅跃升并非运气,背后是算法效率加速提高在起作用。他写道:“Mythos 并非一次偶然的突破,而是耗费最初训练时的一小部分算力,就能重新训练 Mythos。”
考克森还提出,算法改进很快会走向自动化,因此他主张明年先暂停前沿 AI 模型的研发,给竞争对手留出追赶的时间。按他的说法,这样做的结果是能够达到,受损的只有。
考克森此前在 OpenAI 从事 AI 模型训练,最近一段经历是在 Anthropic。今年 9 月,他公开提醒先进 AI 系统可能造成风险,引发大量关注,业内其他重量级人物也发出过类似警告。他们的担忧在于,能持续自我改进的先进 AI 最终或许会摆脱人类控制。