Anthropic 发布了名为 FlashProve 的开源原型,利用零知识证明技术,在不泄露模型内部权重的前提下,验证回复确实出自已承诺的模型。
该系统基于 zkSNARK 构建,能在单张 H100 显卡上,以每秒 110 个 token 的速度验证 4000 亿参数的 Llama 4 Maverick 推理,验证证明的大小约为 19 MB。
研究人员在 GitHub 上公布了技术规格和可运行的代码,允许用户对第三方输出进行加密确认,比如漏洞扫描结果。Anthropic 表示研究仍在进行中,尚未准备好投入部署。使用该工具需要模型实验室公布每个模型的“指纹”以匹配输出,目的是防止 AI 公司用更便宜的低质量模型偷偷替换高成本模型以降低开支。



