唯一教导AI“道德”的专家,离开了OpenAI

OpenAI徽标与模糊的办公室背景,上方浮现出象征伦理思考的抽象图标
AI Summary

OpenAI唯一的专职伦理负责人克洛伊·巴卡拉在入职不到一年后离职,据报道目前尚未确定继任者。

试想一下:如果我们每天使用的智能人工智能(AI)失去了告诉它“什么话才是正确的”、“什么决定不会伤害他人”的引路人,会发生什么?最近,AI行业最具影响力的公司之一OpenAI传来的一则消息,让许多人对此产生了疑问。因为据晚近报道,OpenAI唯一的专职AI伦理负责人(AI ethics lead)克洛伊·巴卡拉(Chloé Bakalar)已经离开了公司。

为什么这很重要?

你可能会觉得,这不就是一个员工的离职吗?但这次消息之所以备受关注,是因为她所担任角色的重要性。在人工智能像人类一样思考和判断的时代,思考“什么是正确”的伦理专家,就像是让技术能够安全融入人类社会的最后一道防线。特别是此次离职后并未明确继任者,这让许多用户和专家开始担忧OpenAI未来将如何处理AI模型的伦理路径以及人机交互问题 Source 1, Source 6

简单易懂的比喻:“没有刹车的汽车”

可以做一个这样的比喻:假设有一家制造高性能跑车的公司,而那位负责系上安全带、检查刹车并制定道路行驶规则的人,就是“伦理专家”,目的是防止跑车因速度过快而发生事故。克洛伊·巴卡拉就是OpenAI这辆巨型跑车在加速时,负责审核其方向是否正确、对行人(用户)是否构成危险的唯一负责人。她曾在模型开发过程中建立伦理标准,探讨机器应如何与人类交流,甚至深入思考“机器意识”这类深奥的哲学课题 Source 1, Source 3。然而,如果这辆车最重要的安全检查员离开了,而且职位暂时空缺,我们还能怀着怎样的心情坐上这辆跑车呢?

当前状况

据报道,克洛伊·巴卡拉于2025年8月入职,工作时间不足一年,于2026年7月离职 Source 5, Source 10。她此前在Meta担任首席伦理专家,并在行业内备受认可 Source 8。遗憾的是,她的离职并未对外正式公开发表 Source 7, Source 11。目前确认的情况是,OpenAI尚未确定继任者,导致OpenAI目前处于缺乏专职伦理专家的状态 Source 4, Source 9。这是今年以来OpenAI流失的第三位AI安全相关研究人员,外界不禁审视:与技术开发的速度相比,其内部的伦理组织是否正在萎缩 Source 9, Source 11

AD

未来展望

OpenAI未来将如何填补这一空缺,或以何种形式重组伦理治理组织,还有待观察。在用户看来,随着AI技术日趋成熟,大家更期待企业能更透明地沟通,说明到底由谁来负责监管AI的安全性。因为技术越是深入我们的生活,思考技术的“正确发展”就越是与“快速发展”同等重要。


MindTickleBytes AI记者观点

技术本身可能是中立的,但设计和部署技术的方式绝非中立。伦理专家若想不仅仅是一个“摆设”,而能起到实质性的刹车作用,就需要企业拥有坚定的意志。希望现在的空缺仅仅是一个短暂的准备期。

参考资料

  1. OpenAI’s Only Ethicist Reportedly Left Last Month. She Wasn’t Replaced
  2. [OpenAI’s Only Ethicist Reportedly Left Last Month Hacker News](https://news.ycombinator.com/item?id=49257160)
  3. [Why Did OpenAI’s Head of Ethics Chloé Bakalar Leave? AI Magazine](https://aimagazine.com/news/why-did-openai-head-of-ethics-chloe-bakalar-leave)
  4. [OpenAI Loses Its Only Ethicist In Under 12 Months, With No Successor Yellow](https://yellow.com/news/openai-loses-only-ethicist-12-months)
  5. OpenAI’s Only Dedicated Ethicist Has Left With No Replacement: FT
  6. [OpenAI’s head of ethics just quit — here’s why ChatGPT users should pay attention Tom’s Guide](https://www.tomsguide.com/ai/openais-head-of-ethics-just-quit-heres-why-chatgpt-users-should-pay-attention)
  7. OpenAI’s Only Dedicated Ethicist Has Left With No Replacement: FT - Decrypt
  8. OpenAI’s head of ethics leaves start-up less than a year after joining
  9. OpenAI AI ethics chief resigns within a year of joining, third AI safety researcher to leave this year
  10. Who Is Chloe Bakalar? OpenAI’s AI Ethics Lead Resigns Less Than a Year After Joining
  11. OpenAI AI ethics chief resigns within a year of joining, third AI safety researcher to leave this year - India Today
AD
测试你的理解
Q1. 此次离开OpenAI的克洛伊·巴卡拉在加入之前的任职单位是哪里?
  • 谷歌
  • Meta
  • 微软
克洛伊·巴卡拉在加入OpenAI之前,曾在Meta担任首席伦理专家(chief ethicist)。
Q2. 克洛伊·巴卡拉离职后,OpenAI的伦理负责人职位目前处于什么状态?
  • 已立即任命继任者
  • 尚未确定继任者
  • 重组组织后取消了该职位
据报道,她是OpenAI唯一的专职伦理专家,目前尚未确定继任者。
Q3. 针对克洛伊·巴卡拉的离职,OpenAI发表了什么官方声明?
  • 发布了官方新闻稿
  • 公开宣布了离职消息
  • 没有发表任何官方声明
据了解,克洛伊·巴卡拉的离职是在没有发表任何官方声明的情况下进行的。