Anthropic 研发 FlashProve：用密码学给 AI 输出验明正身

Anthropic 正在做一个叫 FlashProve 的开源验证系统，要解决的就是一件事：你拿到的 AI 回答，究竟是不是你以为的那个模型写出来的。该公司周二在博客里说，这套东西叫“可证明推理”，做法是用密码学给每条输出附上一份数学保证，证明确实由指定模型生成。打个比方，加密邮件的签名能让收件人确认发件人是谁，FlashProve 防的则是“拿甲模型冒充乙模型”。

这套机制同时堵上了成本作弊的暗门，也能拆穿“注水”的成绩单。研究人员指出了一条存在已久的潜规则：有了它，AI 公司想在后厨把贵的模型悄悄换成便宜货来省成本，就做不到了；反过来，企业也没法把低价型号包装成高端型号、把跑分人为抬高。第三方的宣传同样可以核验——某开发者说自己的代码库已经让前沿安全模型扫过漏洞，或者某公司说自己的商业计划拿到了相应模型的背书，用户由此多了一个追问“凭什么信你”的抓手。

设计上的关键在于：AI 实验室只要给每个模型交出一枚“指纹”，把输出和指纹对上、再做密码学验证，就能确认来源；指纹不会暴露模型权重，而那串决定模型行为的内部参数，恰恰是闭源厂商的命根子。实验室可以公开指纹、不必交出核心资产，FlashProve 因此也能用在商业闭源模型上。系统有意做得轻，用户在本地就能完成验证。Anthropic 已经公开技术规范和可运行的代码（GitHub 开源），不过它强调研究还在进行，暂时没有自己部署的打算。