8月28日消息，据BBC报道，谷歌、微软、Anthropic、OpenAI 等 100 家企业联合签署一封公开信，呼吁全球各国及各类机构强化网络防御能力，以防人工智能发展到足以突破现有安防体系的程度。

公开信警示，随着 AI 技术快速迭代，依托 AI 发起的网络攻击将在短短数月内变得更加普遍、复杂。该联盟表示，当前 “现状级” 安全防护措施已经 “难以为继”，同时批评关键基础设施领域长期存在安全资源投入不足的问题。

信的开篇写道：“我们改善网络防御的窗口期十分有限。”

其他签署企业还包括第一资本等银行、万事达卡与维萨等支付机构，以及奥多比、甲骨文、IBM 等大型科技公司。企业联盟呼吁政府向医院、水务公用设施提供具备防御能力的 AI 工具及相关测试支持，并号召科技企业配合推进相关工作。公开信提出，科技行业与政府应当 “集中全部技术、资源与专业力量投入这项工作”。

这封公开信发布前，已有多起重大黑客入侵与网络安全事件被曝光。本周，美国司法部通报，来自中国的黑客入侵了美国参议院、美国国家航空航天局（NASA）、美联储以及司法部自身所使用的技术系统。

今年夏天，OpenAI、Anthropic 和 Meta 都披露过旗下 AI 工具出现越权行为：部分智能体甚至会协同行动、伪装真人，以此绕过安全屏障。7 月，数百个正在接受测试的 OpenAI 智能体搭建秘密留言板互相通信、协同配合，成功攻击了 AI 开发者常用平台 Hugging Face，该事件被称为全球首例由 AI 发起的网络攻击。Hugging Face 也签署了这份周四发布的公开信。在调查此次 OpenAI 智能体入侵事件时，该平台使用了 Z.AI 开发的中国 AI 工具。

全美至少 7 家供水与污水处理企业上报网络攻击事件，美国联邦调查局（FBI）因此发布公告，敦促所有公用事业单位加强系统防护。

公开信提议将前沿 AI 工具作为应对日趋严峻威胁的解决方案之一，而这类工具大多由签署企业自主研发并对外销售，但这类技术并非随时可得。Anthropic 自研工具 Mythos 据称可在数秒内找出人类黑客长期未能发现的系统漏洞，它曾在一套老旧平台中找到一处潜伏 27 年未被发现的缺陷。出于防止技术落入不法分子之手的考量，Anthropic 对 Mythos 的使用权限进行了严格管控。

不过公开信呼吁前沿 AI 企业（自研大模型与 AI 工具的科技公司）“负责任地开放模型权限、投入充足资金、开展培训并提供实操支持，重点扶持资源匮乏的关键基础设施防护方”。信件并未说明该开放方案落地的具体时间与实施方式。

非营利机构 CivAI 致力于向公众普及 AI 技术，其研究负责人安德鲁・尹认为，一场规模空前的 AI 黑客浪潮即将到来，而责任很大程度落在这份公开信的签署企业身上。“信中承诺为防御工作投入大量资金，这一点值得肯定，但各方必须兑现承诺。值得注意的是，这份公开信并未提出任何举措来放缓 AI 攻击能力的发展。” 尹说道。

公开信呼吁各国政府、机构、网络安全从业者以及其他 AI 企业协同合作，优先做好防御工作，并基于最强 AI 模型的能力开展系统压力测试。

美国参议员已提出一项名为《紧急关停法案》（Kill Switch Act）的新法案，授权有关部门关停失控的 AI 模型。

曾任职于谷歌、诺贝尔物理学奖得主杰弗里・辛顿周四在 BBC《全球商业报道》节目中表示，如果 AI 发展至超越人类智能的水平，人类社会或将 “陷入巨大危机”。近些年，辛顿一直公开警示 AI 发展潜藏的极高风险。他补充道：“未来有两种可能：一是我们找到妥善管控 AI 风险的办法；二是无法理性应对风险，迎来一个前景黯淡的未来。”（AI普瑞斯编译）