AI 企業 Anthropic 因與宗教團體的合作、政治關聯以及錯誤信息披露問題而受到批評，這對 AI 倫理標準提出了根本性的質疑。
想像一下，如果您每天與之對話並提出問題的人工智慧（AI）助手，實際上是基於特定宗教或政治信仰人士的建議來思考，您會怎麼想？如果我們所信奉的中立技術，會根據其學習的價值觀而改變回答方向，那麼其影響力絕不容小覷。最近，作為 AI 行業領袖之一的 Anthropic，其相關新聞正將「AI 的道德」這一沈重議題推向公眾視野。
這為何重要？
AI 不僅僅是計算工具。它現在負責回答我們的日常生活問題、提供政策建議，甚至決定社會輿論的方向。如果企業在設定 AI 的倫理標準時，透過不透明的方式與特定團體緊密聯繫，那麼 AI 所提供的資訊將有反映特定群體利益或信仰的風險。我們必須時刻警惕：AI 是否在公正地看待世界，還是正處於某人的影響力之下？
輕鬆理解：AI 的價值觀由誰決定？
AI 學習的道德標準通常被稱為「倫理框架（AI 必須遵守的行為準則）」。簡單來說，就是制定 AI 在對話時必須遵守的規則。比喻一下，就像照片應用程序中的美顏濾鏡，AI 也擁有過濾回答的濾鏡。Anthropic 曾公開表示，在設計此濾鏡的過程中，曾諮詢過基督教宗教領袖及神學家 出處: Anthropic Consults Christian Religious Leaders on Ethical …。
這不僅僅是技術上的優化，更是關於「何為正確」的哲學問題。就像在教導孩子認識世界時，如果不僅僅依賴學校老師，而是以特定社區的觀點為中心進行教育，其過程如果是透明且經過社會共識則沒有問題，但如果是在封閉的渠道中行使影響力，難免會引發公平性爭議。
現狀：光鮮亮麗的增長背後
Anthropic 正在經歷耀眼的經濟增長。第二季度營收約為 115 億美元，較去年同期激增 14 倍 出處: Квартальная выручкаAnthropicвзлетела в 14 раз до $11,5 млрд，更有預測指出，在 10 月上市時，其企業價值將達到 2 萬億美元 出處: Anthropicможет стоить $2 триллиона при выходе на биржу。
然而，伴隨增長而來的還有爭議。自啟用網頁搜索功能後，Anthropic 的聊天機器人「Claude」被發現引用俄羅斯國家控制媒體傳播虛假事實的案例 出處: Anthropic’s AI Chatbot Is Leaning More on Russian and Iranian …。此外，Anthropic 作為技術聯盟 TechNet 的成員，還表現出政治傾向，例如反對部分 AI 監管法案 出處: Firms crack down on AI propaganda operations, Anthropic and …。最近，因版權侵權問題，該公司還同意支付 15 億美元的和解金，法律糾紛不斷 出處: Anthropic AI copyright infringement lawsuit isn’t a total win …。
我們站在哪裡？
目前的 AI 行業正處於關鍵路口，不僅要提升技術性能，還必須控制該技術對社會的影響。如果特定團體的價值觀深度介入 AI 的判斷標準，那麼 AI 將面臨優先考慮特定群體信仰而非普世倫理的風險。這不僅僅是 Anthropic 的問題，而是我們社會使用的所有人工智慧所面臨的共同課題。我們必須不斷提問：AI 給出的答案，究竟是「誰的視角」？
未來會如何？
未來，企業將面臨證明 AI「道德透明度」的重大課題。不僅僅是創造聰明的 AI，更需要向世界說明該 AI 是基於何種價值觀做出判斷。Anthropic 自稱為「公益法人」，表示致力於最大化技術福利並減少風險 出處: Home \Anthropic。然而，這些聲明在實際運作過程中能貫徹到什麼程度，仍需大眾與監管機構持續監督。
參考資料
- Anthropic Consults Christian Religious Leaders on Ethical Frameworks for Artificial Intelligence Development
- Firms crack down on AI propaganda operations, Anthropic and others
- Anthropic’s AI Chatbot Is Leaning More on Russian and Iranian Propaganda
- Anthropic AI copyright infringement lawsuit isn’t a total win
- Home - Anthropic
- Квартальная выручка Anthropic взлетела в 14 раз до $11,5 млрд
- Anthropic может стоить $2 триллиона при выходе на биржу
- IT 技術聯盟
- 基督教宗教領袖及神學家
- 新聞工作者協會
- 回答過於緩慢
- 引用俄羅斯國家控制媒體傳播虛假信息
- 僅提供付費服務
- 數據中心安全問題
- 版權侵權訴訟
- 員工薪資未付