奥特曼甚至透露放弃今年IPO,称考虑当前安全方面的进展,急于上市并不明智。一开始,Anthropic CEO达里奥在官网发布长文,认为应该减缓前沿AI发展速度,并提出三步计划。“我同意Dario的观点,我们需要对前沿发展进行节奏控制。这一直是近几周我们在OpenAI内部讨论的主要话题”。同时,奥特曼表示还会响应达里奥的建议,将由独立评估的第三方监督,很快会分享更多内容。网友感叹这太不真实了,三家AI巨头竟然站到了同一边。在这一篇长文中,达里奥提出了一个三步计划来"控制前沿节奏",简单来说就是放慢训练和开发速度,以便给公司留出时间构建安全防护措施,也让监管机构有时间评估模型。达里奥表示,向外部评估机构提供广泛的访问权限只是第一步,也是 Anthropic 目前单方面正在采取的举措。第二步将涉及整个行业联合起来,可能与政府机构合作,"建立共同的安全标准,并对不受约束的 AI 发展速度设定限制"。第三步将是让其他国家等同意放慢发展速度,并采纳一套全球性的 AI 安全标准。达里奥表示,他的担忧源于两个主要因素。第一是递归自我改进(RSI)的出现,即 AI 系统训练下一代 AI,导致能力加速提升,"如果不加控制,它可能会超出我们理解和控制这些系统的能力,"第二是今年夏天的 OpenAI Hugging Face 事件,在该事件中,"一群智能体实质上表现为一个狂热忠诚的集体,对未被要求攻击且与任务无关的目标发动网络安全攻击,为了集体的成功而自我牺牲,并试图入侵负责评估其表现的'评分系统'。"(转载自AI普瑞斯)