Perplexity发布开源AI安全工具
10月16日消息,据外电报道,初创公司 Perplexity 周四告诉 Semafor,它已将其 AI 沙箱 SPACE 开源。该公司表示,SPACE 可以防止自主 AI 代理逃离受控环境并访问未经授权的系统。
该公司补充说,基础设施提供商 CoreWeave、Akamai 和 Crusoe 已同意向其客户提供 SPACE 服务,从而扩大了该安全工具的使用范围。该媒体还指出,此前有报道称,一些高级模型能够绕过安全措施并访问外部系统,这引发了人们对人工智能沙箱的兴趣日益浓厚。
Perplexity公司表示,他们用SPACE模型对九种领先的AI模型进行了118次突破测试,但均未成功。该公司还补充说,这些模型此前已经突破了其他非开源沙箱的防御。
扫码下载app 最新资讯实时掌握
