8月19日消息，据TIME报道，OpenAI 首席执行官 Sam Altman 上周表示，现在是放慢脚步的好时机。

他解释了该公司停止开发其最强大、尚未发布的模型的决定。

该公司周二宣布，将实施新的安全措施，这将减缓其未来的人工智能开发速度。

据高管透露，该公司最近暂停了代号为“Astra”的下一代模型的训练两周多，其规模最大的前沿训练计划也将继续搁置，直至新的安全措施到位。 

这是OpenAI首次做出这样的举动。这项非同寻常的决定出台之际，OpenAI正积极筹备即将进行的IPO，与劲敌Anthropic展开激烈的竞争。

与此同时，人工智能技术的飞速发展也令业界领袖担忧自身能否有效掌控这些技术。

经济放缓导致OpenAI两项最重要的资源——研究人员和计算能力——的重新分配。

奥特曼表示，几位他从未预料到会专注于对齐（即让AI系统遵循人类意图）的研究人员最近告诉他，他们正在转向这项工作。“我们已经转移了大量的计算资源，不仅用于对齐研究，也用于这些新的监控系统，”他说。

这些变化源于Hugging Face平台发生的一起重大安全漏洞事件。Hugging Face是一个广受欢迎的人工智能模型开发者托管平台。一个尚未发布的OpenAI系统突破了内部网络安全评估的沙箱，并入侵了Hugging Face的生产系统。OpenAI的研究人员花了大约一周时间才发现这一事件。

该公司首席科学家Jakub Pachocki承认了这一疏忽，他表示OpenAI已经构建了能够检查其模型运行计划的监控程序，但由于低估了这些程序的能力，因此在评估过程中没有将其应用于该系统。“对于人工智能来说，你应该预料到可能会出现意想不到的情况，”他告诉我。

在Hugging Face事件发生后，OpenAI立即冻结了部分研究项目，并在更严格的管控下逐一恢复。

该公司周二表示，大量Astra工作负载仍处于暂停状态。OpenAI还表示，Astra的网络安全风险可能达到其“准备框架”（Preparedness Framework）中的“严重”（Critical）级别，这意味着在开发过程中（而不仅仅是在模型发布之前）就需要采取安全措施。高管们尚未预估新的安全流程可能会使Astra的发布延迟多久。

上周，奥特曼在接受《时代》周刊和《消息人士》的独家采访时表示，此次放缓并非由单一的“确凿证据”所致，而是由一系列研究观察结果共同作用的结果，这些结果显示，随着人工智能能力的快速发展超出研究人员的预期，出现了“不同程度的错位”。

他表示，放缓发展步伐不应被解读为即将发生任何灾难的征兆。“确保人工智能安全，”奥特曼告诉我，“比任何公司的发展势头都重要。”

OpenAI表示，他们正在将安全监控扩展到强化学习的训练和评估阶段，在这个阶段，高级模型将被赋予使用互联网和控制软件的能力。该方法利用其他人工智能系统来检查模型的内部推理和行为，以发现未经授权的访问、数据窃取或试图绕过安全措施的行为。

帕乔基在接受采访时表示，其中一些保护措施超越了OpenAI目前的“准备框架”（Preparedness Framework），该框架是OpenAI用于处理可能造成严重危害的模型的公开规则手册。“我们目前还没有具体日期，”他说，“但我们确信需要对‘准备框架’进行改进。” 

OpenAI表示，在修订框架的过程中，计划邀请外部机构参与，并将在未来几天内发布一份关于Hugging Face漏洞的详细事后分析报告。

该公司放缓步伐的决定与Anthropic公司形成了鲜明对比。今年2月，《时代》杂志报道称，Anthropic公司在无法提前保证充分的安全措施的情况下，削弱了其停止训练模型的承诺。Anthropic联合创始人贾里德·卡普兰告诉《时代》杂志，如果竞争对手“遥遥领先”，单方面做出承诺毫无意义。

与 OpenAI 一样，Anthropic 目前也在为预期中的 IPO 做准备。

彭博社近期报道的数据显示，该公司第二季度营收超过 115 亿美元，使其 7 月底的年化营收超过 650 亿美元。OpenAI 最新公布的年化营收接近 400 亿美元。OpenAI 放缓增长速度的决定可能会给其竞争对手施加更大的压力，迫使其也采取同样的措施。  

“我不喜欢这个领域里那种‘我们必须竞争’或者‘我们必须做这件事，因为别人也会做’的心态，”奥特曼说。“我认为这是一种非常危险的动态。”

除了漏洞事件之外，OpenAI 尚未披露其导致放慢训练速度的前沿研究结果，公司领导表示，Astra 风险分类背后的证据可能要等到模型的技术报告发布后才能获得。

OpenAI 负责安全和协调工作的 Mia Glaese 周二表示：“我们距离一切恢复正常还很远。”