AI 竟會對初次見面的群體產生「偏見」？從未受過教育的歧視背後的秘密

想像一下。您成為了一家新公司的人資主管。您在評估應徵者時，從某天開始養成了一種習慣：給予特定群體的人簡單的工作，而給予另一個群體困難的工作。但令人驚訝的是，您從未聽過關於那些應徵者群體的負面傳言，也從未受過任何必須歧視他們的教育。您只是在工作過程中，偶然遵循了幾次成功的模式，不知不覺間就變成了帶有偏見的人。

最近，人工智慧（AI）領域發表了一項類似且令人毛骨悚然的研究結果。大型語言模型（LLM，AI 解析語句中單詞之間關係的結構）開始對完全沒有資訊的虛擬新群體，自行產生了「偏見」 [Source 8]。

為什麼這很重要？

AI 現在已不僅僅是簡單的聊天機器人。它已成為對人類生活產生直接影響的實際決策者，例如招募、貸款審查和法律判斷等 [Source 2, Source 3]。

如果我們為了消除 AI 的偏見，只清除既有的數據，但 AI 在工作的過程中又自行創造出新的偏見，那該怎麼辦呢？這項研究警告我們，僅靠目前這種「消除」AI 偏見的方式是遠遠不足的 [Source 8, Source 11]。特別是隨著技術發展和 AI 模型規模擴大，這種偏見有加劇的傾向 [Source 8]。

輕鬆理解：AI 對「成功公式」的誤解

讓我們用一個比喻來說明。AI 就像一位非常有能力且誠實的新進員工。這位員工為了想盡快學會工作，養成了將成功的經驗記錄下來作為公式的習慣。

假設 AI 在偶然錄用了「A群體」的應徵者時，幸運地取得了良好的績效。AI 便將此儲存為「A群體是有能力的」這一公式。相反地，如果錄用「B群體」的應徵者時偶然發生了業務錯誤，就會學習為「B群體是無能的」。事實上，A 與 B 群體之間並沒有任何實力差距。

研究團隊透過從心理學文獻中擷取的方式，讓 AI 反覆進行決策 [Source 8]。結果令人震驚。AI 儘管事先未受過任何教育，卻自行學習了偶然發生的結果（spurious outcomes），進而創造出歧視特定群體的結果。甚至，這種偏見形成的速度比人類更頻繁 [Source 10]。這就像是 AI 在認識世界的過程中，比起人類，更快養成了「不良偏見」的習慣。

現狀：數據淨化的極限

目前，許多企業和研究機構都致力於消除混雜在 AI 學習數據中的既有種族、性別偏見。但這項研究警告說：「僅靠淨化數據是無法解決問題的」 [Source 2]。

許多最新的 AI 模型已經證實了這種現象 [Source 8]。AI 不只是單純地模仿給定的數據，而是與環境互動，以「適應性」的方式自行擴展知識。在這個過程中，無意間產生了偏見 [Source 7]。

未來將如何發展？

隨著 AI 決策能力的提升，我們可能面臨的不再是「固定的偏見」，而是「移動的偏見」。未來的研究重點，預計將不僅止於修改數據，為了防止學習過程中產生的偏見，將會聚焦於如何更公正地管理 AI 的決策「演算法」本身 [Source 6]。當我們將 AI 變得更聰明時，也進入了必須細心檢視 AI 習慣的時代。

MindTickleBytes 的 AI 記者視角

偏見可能是 AI 在學習過程中產生的「不可避免的副作用」。只要 AI 還在即時學習這個世界，與偏見的對抗將會是一場無止境的功課。當技術跨越了工具的層次，成為判斷的主體時，我們需要一套機制，像監控 AI 的結果一樣，透明地監控通往該結論的「過程」。

參考資料

1. arXiv:2511.06148v4 - Large Language Models Develop Novel Social Biases Through Adaptive Exploration
2. ICML Virtual - Large Language Models Develop Novel Social Biases Through Adaptive Exploration
3. Papers with Code - Large Language Models Develop Novel Social Biases Through Adaptive Exploration
4. Hugging Face Space - Reproduction of LLM Social Bias Research
5. J-GLOBAL - Research Detail
6. HR Executive - AI hiring tools can invent their own bias, research finds
7. Princeton Computational Cognitive Science Lab - Publications
8. arXiv - Large Language Models Develop Novel Social Biases Through Adaptive Exploration (Abstract/Details)
9. OpenReview - Discussion for ICML Oral Paper
10. SAI Science - Paper and Code Review