考克森谈Mythos：重训只需初始一小部分算力
考克森在 Anthropic 只工作了约四个月。让他决定离职的原因之一，是公司 IPO 路演中一张展示 AI 模型训练算力需求变化的图表。图表采用压缩坐标轴，即使算力需求增长 10 倍和 100 倍，看起来也相差不大。
曾在 OpenAI 与 
Anthropic 任职的雅各布 · 考克森，因公开警告 AI 风险而被外界熟知。他透露，Anthropic 在 IPO 路演中放出的某张幻灯片，是自己最终选择离开的关键原因之一。11 月 14 日消息，这一说法由他本人对外讲出。
考克森在 Anthropic 待的时间并不长，前后大约 4 个月。促使他走人的因素里，有一个就是公司 IPO 路演上那张反映 AI 模型训练算力需求变化的图表。那张图的坐标轴做了压缩处理，算力需求就算涨 10 倍、涨 100 倍，看上去差别也不明显。
但曲线还是往上冲得很陡。在考克森看来，这反映出算法效率不只是在迅速提升，提升的节奏本身也在加快。他直言：“这张图实在太惊人了，没想到他们竟然会公开。”
考克森判断，Anthropic 今年春季发布的 Mythos 能在性能上有大跨越，靠的不是运气，而是算法效率加速提高带来的结果。他写道：“Mythos 并非一次偶然的突破，而是超指数增长趋势中的一个节点。现在，他们只需耗费最初训练时的一小部分算力，就能重新训练 Mythos。”
他还提到，算法改进很快就会走向自动化。据此他主张，明年应暂停前沿 AI 模型的研发，给竞争对手留出追赶的时间。按照他的说法，这么做会让达到人类水平的智能变成可以普遍获得的商品，真正吃亏的只有 OpenAI 和 Anthropic。
考克森早先在 OpenAI 从事 AI 模型训练方面的工作，此后转去 Anthropic，这也是他最近的一份职业经历。今年 9 月，他就先进 AI 系统可能造成的风险公开示警，引来不少关注；业内一些有分量的人士也发出过相近的提醒。他们担心的是，这类能不断自我改进的先进 AI，到头来或许会摆脱人类的掌控。
