AI 给出的答案，真的是该模型生成的吗？

By Gi Pyeong Lee
AI Anthropic 人工智能 加密 FlashProve
象征数字信任与加密验证的抽象网络连接图形
AI Summary

Anthropic 公布的研究原型“FlashProve”利用加密技术，能够确凿地证明 AI 的回答是由特定模型生成的。

想象一下，你要求 AI 审查一份非常重要的法律文件。然而，你如何确信这个回答真的是由我们所信任的顶级 AI 模型撰写的，而不是由性能较差的其他模型草率生成的呢？

迄今为止，单凭 AI 给出的结果，很难完美证明该回答确实来自哪个模型。但现在，这个“来源证明”难题终于出现了解决的曙光。Anthropic 最近提出了“可证明推理（Provable Inference）”的概念，并发布了一个名为“FlashProve”的研究原型，它利用加密技术证明 AI 模型生成的回答确实来自特定模型[Source 3, Source 7]。

为什么这项技术很重要？

随着 AI 在日常生活中使用频率的增加，“信任”变得比什么都重要。当我们使用企业级 AI 服务或利用 AI 的回答进行重要决策时，如果无法证明其结果不是“伪造的”，就可能面临巨大的风险。尤其是因为，我们无法防止 AI 模型提供商在实际使用性能较差的模型时，却将其伪装成性能卓越的模型[Source 14]。

可证明推理技术就像是在 AI 模型的回答上盖了一个“数字印章”。通过这种方式，用户可以从技术上明确确认，他们付费使用的那个模型是否真的生成了该回答，或者结果是否在传输过程中被篡改[Source 15, Source 17]。

简单来说，它的原理是什么？

Anthropic 开发的“FlashProve”利用了密码学方法[Source 7]。打个简单的比方，当 AI 输出回答时，它会通过数学方式压缩该回答所经历的复杂运算过程，并同时发布一份加密的“证明书”。

这里使用的核心技术是 zkSNARK（零知识证明技术的一种），这是一种强力的数学方法[Source 1]。通过这项技术，用户可以从技术层面验证 AI 生成的结果是由特定模型制作的。Anthropic 的研究人员解释说，该过程比以往的其他开源方法运行效率更高[Source 7]。

目前进展如何？

目前，Anthropic 通过名为《FlashProve: 4000 亿参数下的 LLM 推理哈希基证明（FlashProve: Hash-Based Proofs of LLM Inference at 400 Billion Parameters）》的技术报告分享了这项研究的具体成果[Source 6]。

这项研究是与 Roy Rinberg、Alex Allain 以及 EPFL、StarkWare、MIT、Succinct 等知名研究机构合作完成的[Source 6]。这不仅是 Anthropic 的努力，更表明整个 AI 行业都在高度关注引入密码学方法，以提升 AI 生成结果的可信度[Source 15]。

未来会有什么变化？

虽然这项技术才刚刚进入原型阶段，但其影响力预计将非常巨大。企业在购买 AI API 时，将不再仅仅关注“性能”，而会将“答案来源是否确实可证明”作为必备考量因素。

对用户而言，我们可以期待的变化非常明确：我们将进入一个可以更透明地确认所信赖的 AI 模型是否真正发挥了应有性能、或者回答是否被篡改的时代。Anthropic 的这一成果，是 AI 行业试图通过技术解决技术可信度问题迈出的极其重要的一步[Source 1]。

MindTickleBytes 的 AI 记者视角

与 AI 的性能竞争同样重要的是“信任”。像 FlashProve 这样证明回答来源的技术，将成为 AI 超越单纯工具，成长为我们能够信任和依赖的智能伙伴过程中不可或缺的安全保障。

参考资料

  1. Anthropic, Progress on provable inference for large language models
  2. Blockchain.news, Anthropic reports progress on provable inference for large language models
  3. OnAirToday, Progress on provable inference for large language models
  4. i10X News, Anthropic FlashProve: Provable Inference at 400B
  5. TechCityAuthority, Anthropic releases FlashProve to let users verify which AI model generated a response
  6. GitHub (dcolley), Survey of verifiable AI inference as of May 2026
  7. LinkedIn (Imran Siddique), The industry scheduled the proof. Here is what provable inference means
  8. Forkast News, Anthropic’s Provable-Inference Deadline Arrived Today
AD
测试你的理解
Q1. Anthropic 发布的“FlashProve”的主要目的是什么？
  • 提升 AI 模型的训练速度
  • 证明 AI 回答是否由特定模型生成
  • 优化 AI 模型的参数
FlashProve 是一项利用加密技术验证 AI 回答确实由预期的特定模型生成的技术。
Q2. FlashProve 使用的核心加密技术是什么？
  • zkSNARK
  • RSA 加密
  • 量子加密
FlashProve 使用了名为 zkSNARK 的强力加密证明方法，这是一种零知识证明。
Q3. 本次研究的技术报告标题中提到的参数规模是多少？
  • 1000 亿个
  • 2000 亿个
  • 4000 亿个
根据技术报告《FlashProve: Hash-Based Proofs of LLM Inference at 400 Billion Parameters》，其处理规模为 4000 亿个参数。