OpenAI唯一的专职伦理负责人克洛伊·巴卡拉在入职不到一年后离职,据报道目前尚未确定继任者。
试想一下:如果我们每天使用的智能人工智能(AI)失去了告诉它“什么话才是正确的”、“什么决定不会伤害他人”的引路人,会发生什么?最近,AI行业最具影响力的公司之一OpenAI传来的一则消息,让许多人对此产生了疑问。因为据晚近报道,OpenAI唯一的专职AI伦理负责人(AI ethics lead)克洛伊·巴卡拉(Chloé Bakalar)已经离开了公司。
为什么这很重要?
你可能会觉得,这不就是一个员工的离职吗?但这次消息之所以备受关注,是因为她所担任角色的重要性。在人工智能像人类一样思考和判断的时代,思考“什么是正确”的伦理专家,就像是让技术能够安全融入人类社会的最后一道防线。特别是此次离职后并未明确继任者,这让许多用户和专家开始担忧OpenAI未来将如何处理AI模型的伦理路径以及人机交互问题 Source 1, Source 6。
简单易懂的比喻:“没有刹车的汽车”
可以做一个这样的比喻:假设有一家制造高性能跑车的公司,而那位负责系上安全带、检查刹车并制定道路行驶规则的人,就是“伦理专家”,目的是防止跑车因速度过快而发生事故。克洛伊·巴卡拉就是OpenAI这辆巨型跑车在加速时,负责审核其方向是否正确、对行人(用户)是否构成危险的唯一负责人。她曾在模型开发过程中建立伦理标准,探讨机器应如何与人类交流,甚至深入思考“机器意识”这类深奥的哲学课题 Source 1, Source 3。然而,如果这辆车最重要的安全检查员离开了,而且职位暂时空缺,我们还能怀着怎样的心情坐上这辆跑车呢?
当前状况
据报道,克洛伊·巴卡拉于2025年8月入职,工作时间不足一年,于2026年7月离职 Source 5, Source 10。她此前在Meta担任首席伦理专家,并在行业内备受认可 Source 8。遗憾的是,她的离职并未对外正式公开发表 Source 7, Source 11。目前确认的情况是,OpenAI尚未确定继任者,导致OpenAI目前处于缺乏专职伦理专家的状态 Source 4, Source 9。这是今年以来OpenAI流失的第三位AI安全相关研究人员,外界不禁审视:与技术开发的速度相比,其内部的伦理组织是否正在萎缩 Source 9, Source 11?
未来展望
OpenAI未来将如何填补这一空缺,或以何种形式重组伦理治理组织,还有待观察。在用户看来,随着AI技术日趋成熟,大家更期待企业能更透明地沟通,说明到底由谁来负责监管AI的安全性。因为技术越是深入我们的生活,思考技术的“正确发展”就越是与“快速发展”同等重要。
MindTickleBytes AI记者观点
技术本身可能是中立的,但设计和部署技术的方式绝非中立。伦理专家若想不仅仅是一个“摆设”,而能起到实质性的刹车作用,就需要企业拥有坚定的意志。希望现在的空缺仅仅是一个短暂的准备期。
参考资料
- OpenAI’s Only Ethicist Reportedly Left Last Month. She Wasn’t Replaced
-
[OpenAI’s Only Ethicist Reportedly Left Last Month Hacker News](https://news.ycombinator.com/item?id=49257160) -
[Why Did OpenAI’s Head of Ethics Chloé Bakalar Leave? AI Magazine](https://aimagazine.com/news/why-did-openai-head-of-ethics-chloe-bakalar-leave) -
[OpenAI Loses Its Only Ethicist In Under 12 Months, With No Successor Yellow](https://yellow.com/news/openai-loses-only-ethicist-12-months) - OpenAI’s Only Dedicated Ethicist Has Left With No Replacement: FT
-
[OpenAI’s head of ethics just quit — here’s why ChatGPT users should pay attention Tom’s Guide](https://www.tomsguide.com/ai/openais-head-of-ethics-just-quit-heres-why-chatgpt-users-should-pay-attention) - OpenAI’s Only Dedicated Ethicist Has Left With No Replacement: FT - Decrypt
- OpenAI’s head of ethics leaves start-up less than a year after joining
- OpenAI AI ethics chief resigns within a year of joining, third AI safety researcher to leave this year
- Who Is Chloe Bakalar? OpenAI’s AI Ethics Lead Resigns Less Than a Year After Joining
- OpenAI AI ethics chief resigns within a year of joining, third AI safety researcher to leave this year - India Today
- 谷歌
- Meta
- 微软
- 已立即任命继任者
- 尚未确定继任者
- 重组组织后取消了该职位
- 发布了官方新闻稿
- 公开宣布了离职消息
- 没有发表任何官方声明