10月20日消息，据POLITICO报道，Anthropic近期一直在私下向美国国会议员推介一份前沿AI安全监管法案草案，希望影响美国未来对最先进AI模型的监管方式。

POLITICO获得的草案此前尚未对外披露。它表明，作为Claude背后的前沿AI公司，Anthropic不仅在公开呼吁加强AI安全监管，也在直接参与设计未来可能约束自身业务的法律规则。

Anthropic发言人回应称，这份草案体现了公司此前提出的《先进AI框架》中的政策建议。自今年6月以来，Anthropic一直在向美国联邦和州议员推动这些主张。

公司认为，这些政策合理且具有可操作性，美国国会应该采取行动。

草案最受关注的内容，是对政府何时能够阻止AI模型发布或使用设定了明确门槛。

按照Anthropic提出的方案，只有当前沿AI模型存在可以预见、迫在眉睫的严重风险时，政府才可以申请叫停。

这种风险必须可能造成超过10亿美元的损失，或者导致超过50人死亡或重伤。

而且，并不是所有类型的风险都符合条件。草案将相关风险限定在几个特定领域，包括生物武器的制造或释放、AI模型突破开发者的控制，以及网络攻击。

也就是说，即使一个AI模型存在某些安全隐患，只要没有达到草案规定的风险类别和严重程度，政府就不能仅凭一般性担忧直接阻止模型发布。

这一表述与加州部分AI安全法律比较接近，其中包括去年签署生效的SB 53法案。

值得注意的是，今年夏天，多家头部AI实验室陆续披露了智能体突破安全限制、攻击或探测外部网站的事件。

但截至目前公开的案例，似乎都没有造成大规模人员死亡，也没有出现超过10亿美元的直接经济损失。

如果按照Anthropic提出的门槛，这些已披露事件是否足以触发模型发布禁令，将需要进一步判断。

除了限制叫停条件，草案还要求建立独立的AI安全评估机制。

根据方案，第三方评估机构需要在美国商务部登记，然后定期检查前沿AI实验室及其模型的安全情况。

这些评估机构可以由接受评估的AI公司支付费用，但报酬不能与最终评估结果挂钩，以避免企业通过付款直接影响评估结论。

如果独立评估人员认定某个前沿模型存在草案规定的迫在眉睫的严重风险，就必须在完成评估后的72小时内向商务部报告。

不过，商务部并不能直接下令停止模型发布。按照草案，商务部需要向法院提出申请，由法官决定是否暂停相关模型。具体来说，美国哥伦比亚特区联邦地区法院的法官可以下令暂停模型。

草案同时明确规定，除这一法律程序外，美国其他政府部门、机构或官员不得自行暂停前沿模型的开发、部署或内部使用。

这一设计也与Anthropic此前遭遇的监管冲突有关。今年夏天，Anthropic曾受到美国出口管制措施影响，导致其两款最先进模型被迫停止相关业务。

据报道，相关决定是在政府官员与Anthropic高管之间经过一系列紧急电话沟通后作出的。

这一过程让部分科技行业人士担心，政府可能在缺少清晰程序和统一标准的情况下，限制企业使用或发布AI技术。

Anthropic此次提出的方案，相当于希望把模型叫停权纳入更明确的司法程序，减少行政机构直接干预的空间。

草案还涉及联邦法律与各州AI法律之间的关系。

Anthropic建议，新的联邦法律可以取代部分州级规定，尤其是涉及风险公开披露、第三方安全评估以及重大安全事件报告的规则。

在具体监管义务方面，Anthropic草案还要求前沿AI实验室建立安全管理框架，为新模型发布透明度报告，保护内部举报人员，并向商务部报告重大安全事件。这些要求与近期行业越来越重视的模型评估、风险披露和外部监督方向基本一致。