如果 AI 成为黑客的‘秘密武器’？我们需要了解的新型安全威胁

导言：某天收到的一封‘完美’邮件

想象一下，你正像往常一样处理工作，突然收到了一封来自团队负责人的电子邮件。语气和你平时见到的一模一样，甚至提到了正在进行的项目的详细内容，并要求你点击一个需要紧急确认的链接。就在你毫不犹豫点击的瞬间，你电脑中所有珍贵的资料都落入了黑客之手。

这与过去那些拙劣的垃圾邮件完全不是一个档次。没有一个错别字，甚至完美掌握了你的工作风格——这封假邮件的主角可能不是人，而是“人工智能（AI）”。简单来说，人工智能现在正超越保护我们的坚固盾牌，转变为黑客手中锋利的矛 AI-Driven Cybersecurity Threats: A Survey of Emerging Risks and …。

今天，我们将根据谷歌（Google）和安全专家分析的最新报告，像“聪明的朋友”一样，为你通俗易懂地解释人工智能是如何威胁我们的数字世界，以及我们应该如何应对。

为什么这很重要？ (Why It Matters)

事实上，人工智能在很长一段时间里一直在守护着我们。正如 Evaluating potential cybersecurity threats of advanced AI 所解释的那样，在过去的几十年里，AI 一直忠实地履行着“数字保镖”的角色，监控计算机网络中的可疑活动并捕获恶意软件。

但随着最近 ChatGPT 等强大生成式 AI 的出现，情况发生了剧变。技术具有“双重用途 (Dual-use)”的特性。打个比方，厨师的刀可以做出美味的食物，但也可能成为危险的武器。AI 也是如此。根据 Evaluating potential cybersecurity threats of advanced AI 的研究，随着 AI 越来越接近“通用人工智能 (AGI，像人一样能自主完成各种任务的 AI)”，其自动查找安全漏洞和自动化攻击的能力也在飞速提升。

现在，黑客攻击正在脱离“少数高技术专家”的领域。得益于 AI，黑客攻击的成本正在降低，效率正在提高，我们每一个人都有可能成为潜在的攻击对象。

轻松理解：窥探 AI 黑客的‘商业机密’

那么，AI 究竟以何种方式攻击我们呢？为了理解这一点，谷歌威胁情报小组（Threat Intelligence Group）对多达 12,000 多个实际案例进行了详尽分析 A Framework for Evaluating Emerging Cyberattack Capabilities of AI。

从 12,000 起事故中发现的 7 种模式

谷歌研究人员通过分析庞大的数据，将 AI 被用于网络攻击的方式整理为 7 种“攻击链原型 (Attack chain archetypes)” A Framework for Evaluating Emerging Cyberattack Capabilities of AI。这可以被看作是一种“AI 黑客战术指南”。

例如，过去黑客为了寻找目标系统的弱点可能需要通宵达旦好几天，而现在他们可以命令 AI：“帮我找出这个程序里开着的门。”AI 瞬间就能读完数万行代码，找到极细微的缝隙。根据 Evaluating potential cybersecurity threats of advanced AI - 智源社区 的说法，该框架涵盖了攻击的全过程，能有效帮助防御者确定优先建立哪些防御措施。

我们必须了解的‘安全威胁四大天王’

AI-Driven Cybersecurity Threats: A Survey of Emerging Risks and … 论文列举了我们尤其需要警惕的四个风险因素：

1. 深度伪造 (Deepfakes) 与合成媒体：用 AI 制作的假声音或视频。想象一下接到一个声音和儿子一模一样的假电信诈骗电话。
2. 对抗性 AI 攻击 (Adversarial AI attacks)：针对 AI 系统本身的欺骗性攻击。这包括复杂的攻击手段，比如在交通标志上贴上特殊贴纸，使自动驾驶汽车将停止标志误认为是速度标志。
3. 自动化恶意软件：AI 能自主生成变种，以此躲避现有杀毒程序的智能病毒。
4. 基于 AI 的社会工程学攻击：就像前面提到的电子邮件案例一样，巧妙利用对方的心理和信息进行欺骗。AI 可以同时向数百万人发送各不相同的“个人定制版诈骗信息”。

现状：为了捉拿小偷，需要更聪明的保安官

但你不必过于担心。因为技术的发展也会同步提升盾牌的性能。在 Leveraging AI for enhanced cybersecurity: a comprehensive review … 中提到，结合了量子计算 (Quantum computing，比超级计算机快数百万倍的下一代计算机) 和可解释 AI (Explainable AI，能向人类解释判断依据的 AI) 的新型防御系统正相继问世。

最重要的原则体现在安全专家、副总裁埃泰·马奥尔（Etay Maor）的话中。他在接受 CNBC 采访时强调：“对抗 AI 的唯一方法就是利用 AI 来对抗 AI” GoogleNews-Newsaboutcybersecurity- Overview。也就是说，如果黑客拿起了最新型的 AI 武器，那么防御者也必须雇用更强大、更智能的 AI 保安官。

未来会怎样？ (What’s Next)

谷歌最近构建了一个由 50 个高难度挑战任务组成的“基准测试 (Benchmark)”，用以衡量 AI 在网络犯罪方面的熟练程度 Google develops benchmark to measure ‘AIcybercrime… - GIGAZINE。这类似于一种“AI 黑客资格考试”，它能分析 AI 在攻击的哪个阶段表现最好，在哪里会遇到阻碍（瓶颈分析），从而让防御者提前做好准备 Evaluating Potential Cybersecurity Threats Of Advanced AI。

我们迎来的未来安全将不再是消极的“修筑城墙”。AI 将实时学习网络环境，在攻击发生前就捕捉征兆并予以拦截，“主动防御”的时代将正式开启。

MindTickleBytes 的 AI 记者视角

AI 可能成为黑客工具这一事实确实令人担忧。但正如人类最初发现火时，虽面临火灾风险却依然以此发展文明一样，AI 安全威胁也是必须通过技术来克服的课题。

最终，操控技术的还是“人”的意志。如果我们能清晰认识到 AI 的风险并先发制人做好准备，人工智能将成为比任何安全专家都更出色、更忠诚的守门人。请不要忘记，保护你数字生活最强大的疫苗，是对新技术的持续“关注”和“批判性思考”！

参考资料

1. Evaluating potential cybersecurity threats of advanced AI
2. Evaluating Potential Cybersecurity Threats Of Advanced AI
3. Evaluating potential cybersecurity threats of advanced AI
4. AI-Driven Cybersecurity Threats: A Survey of Emerging Risks and …
5. Leveraging AI for enhanced cybersecurity: a comprehensive review …
6. Evaluating potential cybersecurity threats of advanced AI - 智源社区
7. A Framework for Evaluating Emerging Cyberattack Capabilities of AI
8. [2503.11917v3] A Framework for Evaluating Emerging Cyberattack Capabilities of AI
9. GoogleNews-Newsaboutcybersecurity- Overview

10. [KasperskySecurityBulletin2025

    Kaspersky](https://lp.kaspersky.com/global/ksb2025/)

11. Google develops benchmark to measure ‘AIcybercrime… - GIGAZINE

FACT-CHECK SUMMARY

• Claims checked: 13
• Claims verified: 13
• Verdict: PASS