教导AI的人也用了AI？OpenAI的“人类训练员”被解雇事件

想象一下，你是一名“AI训练员（AI教育专家）”，目标是仔细审查尖端模型给出的回答并进行打分，帮助AI像人一样思考并给出更准确的回答。如果为了提高工作效率，你偷偷借用了其他AI工具的帮助，会发生什么呢？

最近有消息称，OpenAI的一些模型训练合同工正是因为这个问题丢了工作。OpenAI的AI训练员因使用AI训练AI而被解雇。这则新闻展现了OpenAI鼓励积极利用AI作为办公工具的理念，与内部严格禁止该行为的规定之间，存在着一种奇妙的冲突。

为什么这很重要？

此次事件在“数据劳动”的未来和AI的可信度问题这两个层面非常重要。

首先，它揭示了我们所使用的像ChatGPT（对话式人工智能服务）这样的服务，究竟经过了多少“真正的人类”之手进行打磨。许多人认为AI会自动变得聪明，但实际上背后存在着大量的人类评估和校对工作。人工智能训练的重要性 然而，如果在这一过程中为了效率而让AI去训练AI，那么我们所信任和使用的AI最终可能会变成“机器制造的机器”，这引发了人们的担忧。

其次，它揭示了工作场所对利用AI工具的矛盾心态。OpenAI正向世界呼吁“请利用AI提高工作效率”，但在打磨自身AI模型的关键岗位上，却严格禁止使用AI。OpenAI的讽刺之处 这反讽地证明了，尽管AI作为人类的辅助工具表现优异，但在验证AI的最后阶段，“人类独特的直觉”依然是必不可少的。

通俗易懂：为什么不能让AI使用AI？

让我们用一个非常简单的比喻来解释这个情况。

简单来说，请想象一个“滤镜太多的拍照App”。 假设我们在拍照时依次叠加1号滤镜、2号滤镜和3号滤镜。在第1步中，原图的色彩已经出现了一点点偏差；第2步滤镜将这种偏差误认为是“原图的特点”并进行了加强；第3步滤镜又将其进一步放大，那么最后得到的照片就会变成与原图完全不同、极其怪异的样子。

AI训练也是如此。 OpenAI雇用人类训练员的原因，是为了以“人类的语言感觉”来判断AI写的文章在人类眼中是否自然、事实关系是否错误。AI训练工作指南 然而，如果训练员把评估工作交给AI来做（这被称为“递归训练”），AI模型就会不断地学习其他AI给出的结果，而不是人类的思维方式。OpenAI强制执行仅限人类规则的原因 结果就是AI特有的逻辑错误会变得更深，模型的准确性反而会下降。

负责OpenAI项目的AI训练专业公司“Mercor”为了防止这种风险，在合同中明确加入了禁止使用AI工具的条款。Mercor的合同条件

现状：进展到什么程度了？

目前，为了保持模型的准确性，OpenAI依然严格坚持“仅限人类”的训练原则。OpenAI的严格规则 相关行业从业者纷纷表示，这种AI训练职位正在形成一个新的劳动力市场。人工智能训练职位的出现

但随着技术进步速度加快，一些人不断尝试提高这种“数据劳动”的效率。此次被曝光的合同工们如果利用AI工具，本可以更迅速地回答和评估无数的问题。但在OpenAI看来，这些“快速产出的成果”是不可信的，换句话说，就像是损害AI性能的毒苹果。

未来会怎样？

AI企业将继续要求更多的数据，也就需要更多的人手来审核这些数据。积累AI训练经验

我们未来需要关注两点： 第一，人类评估AI生成结果的过程本身是否能够自动化？以OpenAI的案例来看，目前短时间内还很难实现。“只有人类才能做出的评估”的价值将会变得更高。 第二，针对数据劳动的待遇和管理体系将变得更加精致。超越单纯的“不要使用AI”的规则，很有可能会建立起一种人类与AI在合作的同时又能守护模型可信度的新型工作流程。

AI时代的真正能力，或许不仅仅在于“如何聪明地使用AI”，还在于能够洞察“在某个瞬间应该关闭AI，用人类大脑进行判断”。

参考资料

1. People Training OpenAI’s AI Fired for Using AI to Train the AI
2. OpenAI contractors were reportedly fired for using AI to train ChatGPT; here’s how they got caught
3. OpenAI Is Firing Contractors for Using AI to Train its AI - Gadget Review
4. NYT says OpenAI committed ‘theft of unprecedented… - TRT World
5. The profession of ‘training’ AI- Tay Ninh Online Newspaper

6. [AI Training Jobs — Earn $15-$100+/hr from Home

   Mindrift Remote…](https://mindrift.ai/)

7. [AI Training to Grow Your Career

   Google](https://grow.google/ai)

8. People Training OpenAI’s AI Fired for Using AI to Train the AI
9. Google News - OpenAI - Latest
10. AI Training Data Controversy Hits Microsoft and OpenAI Lawsuit
11. He Helped Build Powerful AI at OpenAI and Anthropic … - TIME