AI 公司 Anthropic 因与宗教团体合作、政治关联以及暴露虚假信息问题受到批评，对 AI 伦理标准提出了根本性的质疑。
想象一下。如果你每天对话并咨询的人工智能（AI）助手，实际上是基于特定宗教或政治信仰人士的建议来思考的，你会怎么想？如果我们认为中立的技术根据其学习的价值观不同，回答的方向可能会发生变化，那么这种影响力绝不容小觑。最近，围绕 AI 行业领导者之一 Anthropic 的一系列新闻，正是提出了“AI 的道德性”这一沉重的话题。
为什么这很重要？
AI 不仅仅是简单的计算工具。现在，它正在发挥回答我们日常问题、提供政策建议，甚至决定社会讨论方向的作用。如果企业在设定 AI 的伦理标准时，以不透明的方式与特定团体紧密联系，那么 AI 提供的信息就有可能反映特定群体的利益或信仰。我们必须时刻警惕 AI 是否在公正地看待世界，还是正处于某人的影响力之下。
浅显易懂：AI 的价值观由谁定？
AI 学习的道德标准通常被称为“伦理框架（AI 应遵守的行为准则）”。简而言之，就是制定 AI 对话时应遵守的规则。比喻来说，就像照片应用中有修图滤镜一样，想象一下 AI 也有过滤回答的滤镜。Anthropic 曾公开表示，在设计这一滤镜的过程中，咨询了基督教宗教领袖和神学家 出处: Anthropic Consults Christian Religious Leaders on Ethical …。
这不仅是技术优化，更是关于“什么是正确”的哲学问题。这就像教导孩子认识世界时，不仅仅依靠学校老师，而是以特定社区的观点为中心进行教育一样。如果这一过程是透明的，并经过社会共识，那么不会有问题；但如果通过封闭的渠道行使影响力，必然会引发公正性争议。
现状：光鲜成长背后的阴影
Anthropic 正在经历惊人的经济增长。上季度营收约为 115 亿美元（约合 15 万亿韩元以上），同比暴增 14 倍 出处: Квартальная выручкаAnthropicвзлетела в 14 раз до $11,5 млрд，预计 10 月上市时企业估值将达到 2 万亿美元 出处: Anthropicможет стоить $2 триллиона при выходе на биржу。
然而，伴随增长而来的还有争议。在网页搜索功能启用后，发现 Anthropic 的聊天机器人 Claude 引用俄罗斯官方控制媒体发布虚假信息的案例 出处: Anthropic’s AI Chatbot Is Leaning More on Russian and Iranian …。此外，作为技术网络 TechNet 的一员，Anthropic 还表现出反对部分 AI 监管法案等政治动向 出处: Firms crack down on AI propaganda operations, Anthropic and …。最近，因版权侵权问题，公司同意支付 15 亿美元的和解金，法律纠纷也在持续 出处: Anthropic AI copyright infringement lawsuit isn’t a total win …。
我们身处何处？
当前的 AI 行业正处于一个不仅要实现技术性能，还要控制该技术对社会影响力的重要关口。如果特定团体的价值观深入介入 AI 的判断标准，该 AI 就有可能优先考虑特定群体的信仰，而非普遍的伦理。这不仅是 Anthropic 的问题，也是我们社会使用的所有人工智能面临的共同课题。我们必须不断追问：AI 给出的回答，究竟是“谁的视角”？
未来会怎样？
未来，企业将背负必须证明 AI “道德透明度”的重大任务。超越单纯制造智能 AI，他们必须能够向世界说明 AI 是基于何种价值观做出判断。Anthropic 自称为“公益法人”，声称致力于最大限度地发挥技术益处并降低风险 出处: Home \Anthropic。然而，这一宣言在实际运营过程中能多彻底地得到遵守，还需要大众和监管机构的持续监督。
参考资料
- Anthropic Consults Christian Religious Leaders on Ethical Frameworks for Artificial Intelligence Development
- Firms crack down on AI propaganda operations, Anthropic and others
- Anthropic’s AI Chatbot Is Leaning More on Russian and Iranian Propaganda
- Anthropic AI copyright infringement lawsuit isn’t a total win
- Home - Anthropic
- Квартальная выручка Anthropic взлетела в 14 раз до $11,5 млрд
- Anthropic может стоить $2 триллиона при выходе на биржу
- IT 技术联盟
- 基督教宗教领袖及神学家
- 记者协会
- 回答速度太慢
- 引用俄罗斯官方控制媒体并传播虚假信息
- 仅提供付费服务
- 数据中心安全问题
- 版权侵权诉讼
- 员工工资拖欠