AI 能力遭窃的“蒸馏攻击”，我们的防御策略是什么？

By Gi Pyeong Lee
AI安全 蒸馏攻击 数据保护 人工智能
象征隐藏在安全网后的 AI 服务器的数字艺术
AI Summary

随着通过收集强大 AI 模型响应数据来训练自身模型的“蒸馏攻击”日益增多，企业和政府正在加强应对措施以检测并防御此类行为。

试想一下：你花费数年时间、投入数万亿成本并汇聚了无数天才的努力，打造出了全球最聪明的 AI 厨师。然而某一天，有人不断向你的 AI 厨师提问，窃取了所有的食谱和烹饪秘籍。随后，他们利用这些秘籍制作出一个比你的厨师便宜得多、性能却相差无几的“山寨厨师”推向市场。这就是今天 AI 行业面临的最棘手问题——“蒸馏攻击（Distillation Attack）”。

为什么这很重要？

“蒸馏攻击”的影响已不仅仅限于损害技术企业的利益。如果某人能够轻易窃取特定企业历经数年研发出的尖端 AI 模型（如推理、编程、复杂问题解决等）能力，并将其复制到自己的模型中，那么 AI 开发的整个生态系统可能会随之崩溃。来源: Distillation attacks on large language models: motives, actors and…

更严重的问题在于，这种攻击可能升级为国家层面的安全威胁。人们担心某些国家或企业可能会通过蒸馏强大的前沿模型，将其滥用于军事领域。来源: AI Distillation Attacks: The Case for Targeted Government Intervention

简单理解：AI 的“作弊”秘籍

蒸馏攻击通常也被称为“模型提取攻击”。为了理解这一点，我们用课堂教学来做比喻：

“教师模型”是全校第一的天才学生，能轻松解开各种难题。“学生模型”成绩较差，它不断向教师模型提问，并收集教师模型给出的所有答案。起初可能只是照抄答案，但经过反复学习，学生模型最终能够模仿教师模型的逻辑思维方式和能力。这种将大型模型的成果注入小型模型以复制其能力的手段，就是“蒸馏”。来源: The Top 3 Knowledge Distillation Attacks and Defenses Against Them

简单来说，这就是窃取天才的经验并廉价兜售。这个过程非常复杂：据 Anthropic 的报告显示，攻击者动用了多达 24,000 个虚假账号，有组织地从 AI 模型中窃取数据。[来源: Detecting and preventing distillation attacks Anthropic](https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks) 他们尤其针对编程能力、复杂推理能力等核心竞争力进行收集。来源: Chinese AI Firms Hit Claude with Distillation Attacks, Anthropic Warns

AI 的思考：为何要如此大费周章地攻击？

AI 企业正在竭尽全力进行防御。攻击者之所以对蒸馏攻击趋之若鹜，是因为从零开始研发尖端 AI 模型需要数千亿甚至更多的资金投入以及海量的数据。然而，通过学习现成模型产生的结果（数据），蒸馏方式能够以极低的成本获得相近的性能。

这最终不仅阻碍了 AI 技术的公平竞争，也打击了那些诚实投入研发的企业的积极性。保护 AI 技术的知识产权已不再仅仅是企业利益问题，而是演变成了保障技术安全发展与国家安全的核心任务。

现状：追逐与被追逐的防御战争

AI 企业正在推出各种防御策略。基本的应对方案包括“异常模式检测与速率限制（Rate Limiting）”，即检测 AI 模型的异常迹象，并限制单次请求的频率。[来源: AI Model Distillation Attacks: What They Are and Why… MindStudio](https://www.mindstudio.ai/blog/ai-model-distillation-attacks-explained)
但攻击者的水平也不容小觑。一旦防御网加强，攻击者便会在学习蒸馏数据后，动用强化学习（Reinforcement Learning，一种通过经验寻找更好方法的学习技巧）等最新技术，从而瓦解原有的防御体系。[来源: Distillation Defenses Easily Break After… Papers with Code](https://paperswithcode.co/paper/2609.35699) 也就是说，抵御蒸馏攻击正变成一场如同矛与盾对决般的无止境技术竞赛。来源: The Distillation Game: Adaptive Attacks Efficient Defenses

未来会怎样？

专家们预计，未来政府层面的介入和法律行动将进一步加强。美国等主要国家已将蒸馏攻击视为 AI 安全的核心问题，并承认仅靠技术手段解决存在局限性。[来源: U.S. Vows to Fight Distillation Attacks Lawfare](https://www.lawfaremedia.org/article/u.s.-vows-to-fight-distillation-attacks)

我们在使用 AI 服务时，未来或许会面临更严格的安全流程。但这将成为一道最低限度的安全阀，确保强大的 AI 技术得到妥善保护，并帮助那些付出正当努力的企业能够持续开发出更好的技术。AI 时代的安全性已不再是企业的“独角戏”，而是需要我们共同守护的社会安全网。

参考资料

  1. Detecting and preventing distillation attacks Anthropic - https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks
  2. The Distillation Game: Adaptive Attacks Efficient Defenses - https://arxiv.org/pdf/2605.22737
  3. Detecting and preventing distillation attacks Stefano Uliari - https://www.linkedin.com/posts/stefanouliari_detecting-and-preventing-distillation-attacks-activity-7431789827873898496-49VA
  4. AI Model Distillation Attacks: What They Are and Why… MindStudio - https://www.mindstudio.ai/blog/ai-model-distillation-attacks-explained
  5. Model Protection Scheme Against Distillation Attack in Internet of… - https://pdfs.semanticscholar.org/9947/1aee630e2802581d7d843f793b979be726ac.pdf
  6. The Top 3 Knowledge Distillation Attacks and Defenses Against Them - https://antispoofing.org/the-top-3-knowledge-distillation-attacks-and-defenses-against-them/
  7. Distillation Defenses Easily Break After… Papers with Code - https://paperswithcode.co/paper/2609.35699
  8. How DeepSeek “Stole” Claude – Real Distillation Attack… - YouTube - https://www.youtube.com/watch?v=ase1Qmyo4Wg
  9. AI Distillation Attacks: The Case for Targeted Government Intervention - https://www.iaps.ai/research/ai-distillation-attacks-the-case-for-targeted-government-intervention
  10. Anti-Distillation: Improving reproducibility of deep networks - https://arxiv.org/abs/2010.09923
  11. How Distillation Attacks Are Redefining AI Security - https://community.hpe.com/t5/software-general/how-distillation-attacks-are-redefining-ai-security/td-p/7262423
  12. Distillation attacks on large language models: motives, actors and… - https://gekko.de/posts/distillation-attacks-llms-security
  13. US sounds alarm on China’s AI distillation as DeepSeek V4 debuts… - Asia Times - https://asiatimes.com/2026/04/us-sounds-alarm-on-chinas-ai-distillation-as-deepseek-v4-debuts/
  14. Detecting and preventing distillation attacks Bruno Pérez - https://www.linkedin.com/posts/bruno-pérez_detecting-and-preventing-distillation-attacks-activity-7431811347681656833-VsBP
  15. Chinese AI Firms Hit Claude with Distillation Attacks, Anthropic Warns - https://www.infosecurity-magazine.com/news/chinese-ai-claude-distillation/?ref=singularitysanctuary.com
  16. U.S. Vows to Fight Distillation Attacks Lawfare - https://www.lawfaremedia.org/article/u.s.-vows-to-fight-distillation-attacks
AD
测试你的理解
Q1. 什么是蒸馏攻击（Distillation Attack）？
  • 黑客入侵 AI 模型服务器的行为
  • 通过学习强大 AI 模型的输出数据来强化小型模型的模型提取技术
  • 删除 AI 模型的行为
蒸馏攻击是指小型模型（学生）通过学习大型模型（教师）的回答，从而复制其能力的模型提取技术。
Q2. Anthropic 披露的蒸馏攻击现状之一是什么？
  • 利用约 24,000 个虚假账号进行的组织性攻击
  • 对 AI 服务器的物理攻击
  • 诱导数据中心断电
Anthropic 已确认存在动用约 24,000 个虚假账号进行的大规模组织性蒸馏运动。
Q3. 现有防御体系为何无法完全阻挡蒸馏攻击？
  • 因为所有攻击都是合法的
  • 因为使用了强化学习等更先进的后续训练技术
  • 因为防御技术太昂贵
最新研究表明，攻击者正采用在蒸馏后应用强化学习等方法，以规避现有的防御措施。