11月4日消息，据外媒报道，Anthropic正在研发一套开源系统，用于验证某段AI输出究竟由哪个模型生成。该系统名为FlashProve，目标是实现所谓的“可验证推理”：通过加密证明，让用户确认收到的回答确实来自指定模型。

这有点像数字签名：收件人可以据此确认邮件确实来自声称的发件人。FlashProve则希望防止有人把一个模型伪装成另一个模型，即使实施“冒充”的正是开发并运营模型的公司。

例如，AI公司可能为了节省成本，暗中用更便宜的模型替代用户原本选择的模型；或者在性能测试中换用更贵、能力更强的模型，以抬高测试成绩。FlashProve的设计目标之一，就是让这类做法更容易被发现。

它还可以用于核验第三方对AI使用情况的声明。比如，软件开发者声称自己用顶尖网络安全模型扫描过代码库，或者一家公司表示其商业计划已经通过适合的AI模型审核，用户都可以借助系统验证这些说法。

要实现这一点，AI公司需要为发布的每个模型提供一份“指纹”，供系统与具体输出进行匹配，并通过加密方式验证。重要的是，模型指纹不会暴露模型权重，也就是决定模型行为的内部参数。因此，像Anthropic和OpenAI这样的闭源模型厂商，也可以在不公开核心技术的情况下发布指纹。系统还被设计得较为轻量，理论上可以在用户自己的设备上完成验证。

Anthropic此次同时公布了详细技术规范和部分可运行代码，并以开源许可发布在GitHub上。不过，这项研究仍在进行中，公司目前没有计划在Anthropic或其他实验室部署FlashProve。

研究人员强调，这次发布只是阶段性进展，并非完整的研究计划。他们希望其他人能够检查、采用并改进这套系统。