11月3日消息，Anthropic周一发布修订版S-1/A招股文件时，外界主要关注公司的财务变化：营收增长迅速，支出也在同步攀升。但招股文件的风险提示部分，还披露了另一件事：Anthropic认为，AI辅助研发带来的进展加速，未来可能很快达到公司内部设定的风险门槛。

这个门槛与递归式自我改进（RSI）有关。简单来说，RSI指AI能够参与训练和研发更强的后续模型，推动AI能力进一步加速提升。

对一些担心AI风险的人来说，RSI可能意味着模型变得越来越强，最终脱离人类控制；而对AI支持者而言，AI参与自我改进则可能带来生产力提升和科学发现上的重大突破。

Anthropic显然同时看到了其中的机遇与风险。公司承认正在将AI用于自身研发，但也警告，用AI开发更强大的AI可能带来显著安全风险，尤其是在技术进步速度突然加快时。Anthropic表示，相关风险已纳入公司的《负责任扩展政策》，以便持续监测并采取缓解措施。

过去，许多人认为递归式自我改进只是一个热门概念，或者是一个难以实现、定义和验证的目标。如今，Anthropic在招股文件中进一步说明，AI辅助研发已经带来实际影响。

公司称，AI模型能力提升的速度，可能快于安全、对齐和安保措施的研发、验证与落实。Anthropic还表示，过去曾未能及时发现研发速度已明显加快，未来也可能直到加速发生之后才意识到这一变化。

**根据Anthropic对未来模型的内部估算，公司可能很快达到《负责任扩展政策》中“由AI推动的进展显著加速”这一标准。**不过，这一判断针对的是未来模型，而非目前已经投入使用的模型。Anthropic强调，目前没有任何现有模型被认定超过该门槛，相关数据仍在评估中。

公司同时表示，现阶段还没有模型真正跨过递归式自我改进的门槛。即使未来技术上能够实现，Anthropic也不认为自己可以在缺乏有效人类监督或理解的情况下，让Claude完全自主地设计并研发一代又一代的前沿模型。公司正在考虑更新相关政策，以确保人类继续掌控前沿模型的研发。

当然，也有人提醒，S-1招股文件既是风险披露，也是面向投资者介绍公司前景的材料。Anthropic关于自我改进可能临近的说法，除了提示风险，也可能被视为带有宣传意味。

不过，Claude今年在编程、数学和网络安全等领域的能力确实有明显提升。如果Anthropic认为AI研发加速的风险正在逼近，外界或许也应认真看待，并进一步讨论相应的治理措施。