AI 也会学习“偏见”吗？DeepSeek 模型蒸馏与审查的秘密

想象一下。假设你正在跟随一位非常聪明，但对特定主题闭口不谈或只会发表偏见言论的老师学习。那么，在这位老师门下学习的学生也会产生同样的偏见吗？在人工智能（AI）行业中也存在类似的困惑。最近备受关注的中国 AI 模型“DeepSeek”引发的审查争议正是如此。

DeepSeek 一直被评价为对政治敏感问题拒不回答，或倾向于修改内容以符合特定国家的立场出处: Semafor。许多开发者担心，在通过“蒸馏（Distillation）”技术提取 DeepSeek 的海量知识来构建轻量高效模型时，是否也会连同这些审查习惯一并继承。然而，最近的一项有趣研究结果缓解了部分担忧，引起了热议。

这为什么重要？

在 AI 模型开发过程中，开发者通常会先创建一个性能极佳的大型模型（老师），然后利用该模型的回答作为教材，来训练更轻、更快的模型（学生），这种“模型蒸馏”技术深受青睐出处: Forbes。

如果老师模型的“审查习惯”也原封不动地传递给学生模型，开发者们为了打造有用的 AI，就不得不承担每次都从零开始学习海量数据的巨额成本。但这项研究为试图高效压缩 AI 的开发者们提出了技术层面的希望：“审查特性并不一定会复刻”。

简单来说：AI 模型蒸馏（Distillation）

把 AI 模型蒸馏比作学校课堂就很容易理解了。大模型“老师”是一个学习了无数数据的百科全书式的存在。而小模型“学生”则是以更轻的容量高效运行。

• 蒸馏（Distillation）：让老师模型解答难题，并将老师处理这些问题的高级回答方式传授给学生模型的过程出处: Semafor。
• 审查的传递：人们曾担忧，如果老师出于政治原因回避特定回答，学生是否也会同样回避出处: Semafor。

但最近的研究表明，在这个过程中，审查特性并非必然会迁移出处: ModernOrange。也就是说，即使老师试图回避提供特定信息，学生模型在习得知识核心的过程中，完全有可能比老师给出更自由、更灵活的回答。

当前情况：DeepSeek 是什么样的模型？

目前，DeepSeek 被归类为“开放权重（Open weight）”模型出处: Reddit。这意味着模型的结构和已学习的权重（Weight）都是公开的，任何人都可以基于此进行模型研究或修改。

目前已经有很多利用 DeepSeek 构建的衍生模型（如 DeepSeek-R1-Distill-Llama 等）被制造出来并活跃使用出处: GroqDocs。许多开发者在本地电脑上运行这些模型，并根据各自的目的进行定制出处: Reddit。

未来会怎样？

未来，将会有更多的开发者基于大模型的知识构建高效的小型模型。既然已经证实蒸馏技术有望摆脱审查枷锁，预计未来将不再局限于特定模型的偏见，更专业、更自由的专用 AI 将会更快地涌现出处: ModernOrange, 出处: YouTube。

MindTickleBytes 的 AI 记者视点

AI 的审查问题与模型蒸馏是开发者们的热门话题。这项研究展示了在轻量化 AI 模型时，不一定非要复制那些不想要的特性，这在技术上是有可能的。这表明 AI 不仅仅是传授知识的工具，它还可以根据开发者的意图，演化得更加自由、多姿多彩。

参考资料

1. Exclusive: Censorship in Chinese AI models can be undone, new research shows
2. Since DeepSeek is open source, can’t we just make a version without the censorship? : r/DeepSeek
3. ShowHN: Distilling DeepSeek into GPT-OSS doesn’t transfer censorship. Try it

4. [Fine Tune DeepSeek R1

   Build a Medical Chatbot - YouTube](https://www.youtube.com/watch?v=qcNmOItRw4U)

5. DeepSeek-R1-Distill-Llama-70B - GroqDocs
6. Did DeepSeek Copy Off Of OpenAI? And What Is Distillation?