AI会对比从未见过的群体产生“偏见”？未曾学习过的歧视背后的秘密

想象一下，你成为了某家新公司的招聘负责人。在评估应聘者时，不知从何时起，你养成了一种习惯：给特定群体的人分配简单的任务，而给其他群体分配困难的任务。但令人惊讶的是，你从未听过关于这些应聘者群体的任何负面评价，也从未接受过任何关于歧视的教育。你只是在工作中顺手沿用了几次偶尔成功的做法，不知不觉中，你就成了一个带有偏见的人。

最近，在人工智能（AI）领域发布了一项类似令人毛骨悚然的研究结果。研究称，大型语言模型（LLM，一种理解句子中单词间关系的AI结构）开始针对没有任何相关信息的全新虚拟群体，自发产生“偏见” [Source 8]。

这为什么重要？

AI现在已不仅仅是简单的聊天机器人。它已成为能够直接影响人类生活的实际决策者，涉及招聘、贷款审批、法律判决等诸多领域 [Source 2, Source 3]。

如果我们为了消除AI的偏见，仅仅清洗了现有的学习数据，但AI在工作过程中又会“随手”创造出新的偏见，那该怎么办呢？这项研究向我们发出警告：仅仅依靠目前这种“消除”偏见的方式是不够的 [Source 8, Source 11]。特别值得注意的是，随着技术发展和AI模型规模的扩大，这种偏见倾向会变得更加严重 [Source 8]。

浅显易懂：AI对“成功公式”的误解

打个比方。AI就像一位非常有能力且诚实的职场新人。这位新人学习能力很强，有一个习惯，就是将成功经验记录成公式。

假设AI在第一次招募“A群体”的应聘者时运气好取得了不错的效果。AI便将其记录为“A群体很有能力”的公式。相反，如果招募“B群体”的应聘者时发生了工作失误，它就会学习为“B群体没有能力”。事实上，A群体和B群体之间并没有任何实际水平的差异。

研究人员利用心理学文献中的方法，让AI反复进行决策 [Source 8]。结果令人震惊。AI即便没有接受过任何预先教育，也通过学习偶然结果（spurious outcomes），自发制造了歧视特定群体的结果。甚至，这种偏见形成的速度比人类更频繁 [Source 10]。仿佛AI在认识世界的过程中，比人类更快地养成了“恶性偏见”的习惯。

现状：数据清洗的局限性

目前，许多企业和研究机构致力于消除AI训练数据中混入的既有种族、性别偏见。但这项研究警告说：“仅靠让数据变干净是无法解决问题的” [Source 2]。

已经在多个最新AI模型中证实了这种现象 [Source 8]。AI不仅仅是模仿给定数据，它还在与环境交互的过程中“自适应”地扩展知识。在这一过程中，它无意中产生了偏见 [Source 7]。

未来会怎样？

随着AI决策能力的不断提升，我们可能不得不面对的不是“固定的偏见”，而是“动态的偏见”。未来的研究焦点预计将转向如何防止学习过程中产生的偏见，不仅是修改数据，更要思考如何公平地管理AI的决策“算法”本身 [Source 6]。随着我们让AI变得更聪明，我们也进入了需要细致观察AI习惯的时代。

MindTickleBytes的AI记者视角

偏见或许是AI在学习某种事物时产生的“不可避免的副产品”。只要AI在实时学习世界，与偏见的斗争就将成为永无止境的课题。如今，技术已超越工具层面成为判断的主体，我们需要建立一套透明的监控体系，不仅要关注AI的结论，更要监督达成该结论的“过程”。

参考资料

1. arXiv:2511.06148v4 - Large Language Models Develop Novel Social Biases Through Adaptive Exploration
2. ICML Virtual - Large Language Models Develop Novel Social Biases Through Adaptive Exploration
3. Papers with Code - Large Language Models Develop Novel Social Biases Through Adaptive Exploration
4. Hugging Face Space - Reproduction of LLM Social Bias Research
5. J-GLOBAL - Research Detail
6. HR Executive - AI hiring tools can invent their own bias, research finds
7. Princeton Computational Cognitive Science Lab - Publications
8. arXiv - Large Language Models Develop Novel Social Biases Through Adaptive Exploration (Abstract/Details)
9. OpenReview - Discussion for ICML Oral Paper
10. SAI Science - Paper and Code Review