AI 能从数学上证明软件的“安全性”吗?谷歌 DeepMind 发布 AlphaProof Code

形象化展示谷歌 DeepMind 的全新 AI 框架 AlphaProof Code 验证软件安全性的过程
AI Summary

谷歌 DeepMind 的“AlphaProof Code”是一个全新的框架,它利用 AI 代理与数学验证工具“Lean”,在机器层面从数学上完美证明了软件的安全性。

想象一下,如果我们每天使用的通讯软件或金融应用,能够通过数学计算而非人类肉眼,完美证明其“不存在任何黑客攻击漏洞”,那会怎样?过去,软件的安全性主要通过大量测试来确认“尚未发现漏洞”。但现在,我们正进入一个 AI 可以从数学上分析软件蓝图,并证明其“绝不可能被攻破”的时代。

谷歌 DeepMind 于 2026 年 11 月 10 日发布的“AlphaProof Code”正是这一时代的开端。新闻 — Google DeepMind Google DeepMind Uses AI Agents to Verify Signal’s Core …

为什么这很重要?

随着软件变得越来越复杂,人类想要找出所有安全漏洞几乎是不可能的。特别是像加密技术这样以个人隐私保护为核心的领域,哪怕是一个极小的疏忽,都可能导致大规模的安全事故。

迄今为止,安全验证主要依赖于“运行测试”。这是一种在多种情况下运行程序,并确认是否存在明显错误的方法。然而,这种方式无法完全排除仍未发现的潜在缺陷。

相比之下,“AlphaProof Code”采取了完全不同的方法。该技术能够从“数学证明”上展示软件在任何情况下都不会违反安全规则。AlphaProof Code: Verifying Signal’s Security at the Machine … 对于企业和用户而言,这超越了简单的“测试通过”,提出了“可信软件”这一全新的安全标准。

轻松理解

让我们把“AlphaProof Code”验证安全性的方式,比作确认自家住宅的安全性。

如果说传统的测试方式是“摇晃家里的门窗,确认它们打不开就判断为安全”,那么“AlphaProof Code”就像是拿来了房屋的详细蓝图,通过将物理定律与数学公式精确代入,从而完美计算出“任何工具都无法破坏或打开这扇门”。

在此过程中,“Lean” 环境起到了核心作用。AlphaProof Code: Signal Protocol Verified in 4 Weeks … 这是一种帮助计算机验证数学逻辑的“数学验证平台”。“AlphaProof Code”的 AI 代理利用 Lean 环境,自主编写证明过程,论证软件代码的安全性。DeepMind’s AlphaProof Code Uses AI Agents to Prove Signal’s … 就好像 AI 变身为天才数学家,亲自写下了软件这个复杂问题的答案(证明)。AlphaProof: AI for Formal Mathematics

当前状况

为了在实际现场验证这项惊人的技术,研究团队选择了对安全性要求最高的应用之一——通讯软件“Signal”。DeepMind 的 5 人研究团队利用“AlphaProof Code”,确认了 Signal 协议的核心加密代码是否完美遵循了安全规则。Google DeepMind Uses AI Agents to Verify Signal’s Core …

结果显示,仅在 4 周内,AI 就生成了多达 300 万行的数学证明。Introducing AlphaProof Code: a breakthrough in verifying complex software at depth 这是 AI 首次以这种深度验证了广泛部署的真实加密协议的安全性,并获得了高度评价。Google DeepMind melds humans and AI agents to vet Signal’s …

当然,在本次验证过程中并没有发现新的安全缺陷。这反而从数学上证明了 Signal 原有的安全性已经非常稳固。DeepMind AI formally verifies parts of the Signal protocol

未来展望

谷歌 DeepMind 已将本次工作的成果——规范(specification)和验证人工制品(verification artifacts)向外部公开,以便专家们随时查阅。Google DeepMind Uses AI Agents to Verify Signal’s Core …

这门技术才刚刚起步。如果未来“AlphaProof Code”等技术进一步发展,也许有一天,我们每天使用的重要软件在发布前,都能通过数学验证获得“无法被黑客攻击”的认证。AI 正在超越辅助编写代码的工具角色,开启一个赋予代码数学确定性、确立其真正安全性的新时代。

参考资料

  1. Introducing AlphaProof Code: a breakthrough in verifying complex software at depth
  2. AlphaProof Code: Signal Protocol Verified in 4 Weeks …
  3. DeepMind’s AlphaProof Code Uses AI Agents to Prove Signal’s …
  4. AlphaProof Code: Verifying Signal’s Security at the Machine …
  5. DeepMind’s AlphaProof Code proved selected Signal guarantees …
  6. News — Google DeepMind
  7. Google DeepMind Uses AI Agents to Verify Signal’s Core …
  8. AlphaProof: AI for Formal Mathematics
  9. Google DeepMind melds humans and AI agents to vet Signal’s …
  10. DeepMind AI formally verifies parts of the Signal protocol
  11. Google DeepMind’sAlphaProofMASSIVE MATHBREAKTHROUGH…
  12. [Google DeepMind’sAlphaProofAI solvescomplexmath problems like… LinkedIn](https://www.linkedin.com/posts/enigma-security_alphaproof-googledeepmind-artificialintelligence-activity-7394751054200082436–nPf)
  13. [Google DeepMind announces newbreakthroughinAI… Fortune](https://fortune.com/2024/07/25/google-researchers-claim-new-breakthrough-in-getting-ai-to-solve-tough-high-school-math-problems/)
  14. AI achieves silver-medal standard solving… — Google DeepMind
  15. [Google DeepMind takes step closer to cracking… The Guardian](https://www.theguardian.com/technology/article/2024/jul/25/google-deepmind-takes-step-closer-to-cracking-top-level-maths)
AD
测试你的理解
Q1. 谷歌 DeepMind 发布的“AlphaProof Code”的核心目的是什么?
  • 自动编写软件代码
  • 验证软件安全属性
  • 优化游戏引擎
AlphaProof Code 是一种 AI 框架,旨在从数学上严格验证复杂软件的安全属性。
Q2. 使用 AlphaProof Code 进行验证的代表性服务是什么?
  • 谷歌搜索
  • Signal 协议
  • 安卓操作系统
研究团队验证了广泛使用的加密通讯软件 Signal 的核心安全属性。
Q3. 关于 AlphaProof Code 验证安全性的方式,下列描述正确的是?
  • 仅执行运行测试
  • AI 代理在 Lean 环境中生成数学证明
  • 收集用户反馈
AI 代理通过在数学验证工具 Lean 的环境中生成机器级别的严格证明来验证代码。