AI 正在“复制”AI？模型蒸馏攻击与 AI 技术战争

想象一下：你花了十多年时间研究厨艺，研制出了一种让全世界都惊叹的“特级秘制酱料”。然而有一天，有人走进你的餐厅，不厌其烦地分析你酱料的味道，随后迅速制造出一种“山寨酱料”并开始售卖，你会有什么感受？

最近，人工智能（AI）行业就发生了这样的事。OpenAI 披露了一起组织严密的攻击事件，这些攻击者不仅是窃取数据或信息，而是试图窃取 AI 的“思维方式”本身。

为什么这很重要？

在 AI 时代，企业的竞争力最终取决于“谁能打造出思考更聪明的模型”。超越单纯的信息获取，能够逻辑地解决复杂问题的能力，是该企业的核心知识产权（IP）。

此次事件表明，AI 模型所拥有的“推理模式”已成为某些人必须窃取的有价值目标。 OpenAI Disrupts Coordinated Model Distillation Campaign 这种攻击意图无授权复制耗费巨大时间与金钱研发的高级技术，严重威胁着整个 AI 产业的生态系统。 Disrupting a coordinated model-distillation campaign

简而易懂：什么是模型蒸馏？

“模型蒸馏 (Model distillation)”这个术语听起来可能有点难懂。我们可以将其比作“徒弟向师傅学习”。

通常，师傅（高性能 AI）将知识传授给徒弟（小型 AI）的过程称为“蒸馏”。然而，这次的攻击者有着截然不同的意图。他们就像试图窃取师傅秘方的盗贼，利用其他 AI 模型不断向 OpenAI 的高性能模型提问。随后，他们通过仔细分析这些回答，试图对 OpenAI 模型得出答案的“逻辑过程”即“思维结构”进行逆向工程。 Disrupting a coordinated model-distillation campaign

更严重的是，攻击者甚至使用了“加密绕过 (Encryption bypass)”这一高阶技术。 OpenAI reveals ‘novel’ encryption bypass used in distillation … 超过 4,000 名用户发动了 16,000 次有组织的提问攻势，试图窥探模型的“内部细节”。 OpenAI says it disrupted Moonshot-linked distillati… — METAL

当前现状：谁做了什么？

OpenAI 于 9 月 30 日正式宣布，他们已经发现并阻止了一场针对其 AI 推理模型的有组织模型蒸馏运动。 OpenAI Disrupts Coordinated Model Distillation Campaign

调查结果显示，该攻击的核心集群中包含了与中国 AI 开发公司“月之暗面 (Moonshot AI)”（以 Kimi 模型闻名）相关的人员。 OpenAI says it disrupted Moonshot-linked distillati… — METAL 16,000 次请求在 7 月份仅两天内集中发生，这表明此次事件绝非个人的单纯好奇心，而是经过极度缜密策划的攻击。 OpenAI says Moonshot AI’s distillation campaign spanned over 15,000 individual users and comprised of 16,000 requests.

未来将会如何？

此次事件清晰地表明，AI 安全战线正在扩大。现在，AI 企业不仅要保护其服务器免受外部黑客攻击，还面临着一项新任务：建立严密的防御体系，防止 AI 通过回答问题而导致其“思维方式”被盗。 OpenAI Disrupts Coordinated Model Distillation Campaign

OpenAI 表示，目前正在强化防御手段，以从源头上阻断此类对抗性蒸馏尝试。 OpenAI Disrupts Coordinated Model Distillation Campaign 随着未来 AI 技术的进一步发展，旨在防御“智能盗贼”的盾牌与试图突破防线的攻击之间，这场激烈的头脑风暴将会愈演愈烈。

MindTickleBytes AI 记者的看法： 我们已经超越了人工智能模仿人类智能的时代，现在进入了 AI 之间互相抄袭思维结构的时代。技术的进步速度令人惊叹，但如此高精尖安全问题的发生，也让我们再次感受到技术背后所带来的重量。

参考资料

1. OpenAI Disrupts Coordinated Model Distillation Campaign
2. Disrupting a coordinated model-distillation campaign
3. OpenAI reveals ‘novel’ encryption bypass used in distillation …
4. Moonshot AI Of Kimi K3 Fame Tried To Crack OpenAI … - Wccftech
5. OpenAI disrupts coordinated model distillation attack campai-4755 — Snippora
6. OpenAI says it disrupted Moonshot-linked distillation… — METAL
7. Google News- OpenAI links China’s Moonshot AI to data extraction…