Anthropic更新S-1/A：预警RSI能力模型临近

11 月 3 日，Anthropic 周一更新了 S-1/A 招股补充文件。外界大多盯着里面的最新财务数据——营收暴涨，支出同样激增。可这家 AI 实验室在文件的小字部分，还放出了另一条重量级信息。

这份申报文件似乎在提醒：公司很快就要做出具备递归自我改进（RSI）能力的模型。

所谓递归自我改进，说的是 AI 的自我训练水平高到一定程度，自身能力随之爆发式增长的那个阶段。在悲观派眼里，这是一场没法回头的灾难：AI 会自我进化到人类管不住的地步，追逐自身目标时，对造成的伤害可能毫不在意。

乐观者的看法正相反。递归自我改进，或者 AI 稳定自我优化的其他形态，代表的是这项技术的巨大潜力——超高生产力、科学发现等众多领域，都将因此获得强大工具。

Anthropic 自己的态度是：机遇与风险并存。招股文件里写着，公司已把 AI 用于研发，同时提醒：“借助 AI 开发能力更强的 AI，也可能带来重大安全风险，尤其是当它大幅加快技术迭代速度的时候。这也是我们《负责任扩缩策略》覆盖的领域之一，这份文件规划了相关方案，在我们逐步接近所谓‘递归自我改进’状态时，对风险进行监测与缓释。”

递归自我改进今年早些时候火过一阵。当时不少人觉得它只是个热词，往好里说，也是个难落地、难界定、没法证实的目标。

但到了周一，Anthropic 在风险提示板块添了新说法，要害有两点：一是公司已经用 AI 开发出新模型，部分模型能力出现跃升，团队当时却没有察觉；二是公司可能很快就要撞上自己定义的递归自我改进标准。

文件里写道：“此外，我们正越来越依赖 AI 系统来提速自身的研发工作，这就可能使模型能力的进化快过我们同步开发、验证并落实安全、对齐与防护措施的速度。所以，研发进度一旦大幅加快，我们以前就没能及时察觉，将来同样可能等到这类提速出现之后才发现。”

文件还举了例子：按内部测算和对下一代模型的预期（不是现有模型），公司可能很快就触到《负责任扩缩策略》中定义的“由 AI 带来的爆发式技术进展”。目前他们的认定是，还没有任何一款现有模型越过这条红线，基础数据仍在持续评估。

不过文件也交代了，旗下所有模型暂时都没跨过递归自我改进的门槛。Anthropic 承诺，可预见的未来，研发流程中会保留人类参与。“即便未来技术上可以实现，我们也不打算在缺少有效人工监督、无法充分理解相关过程的前提下，安全地让 Claude 完全自主设计、迭代前沿大模型。因此，我们正考虑修订《负责任扩缩策略》，保证前沿模型的开发始终由人类掌控。”

怀疑的人会说，S-1 招股文件一边披露信息，一边也兼做宣传。放话即将做出能自我迭代的超强模型，说不定只是话术。

但有一点没法否认：Claude 今年在编程、数学、网络安全等方面的能力，提升是跨越式的。如果 Anthropic 判断递归自我改进近在眼前，这个判断或许值得认真对待——监管规则也该照着搭起来。