AI的思考方式正在改变？OpenAI的新型“循环深度”技术引发争议

想象一下。你在公司写一份非常复杂的计划书，并向AI寻求帮助。以往的AI就像一位按菜谱顺序切菜、烹饪的厨师一样，习惯于“序列化思维”，即一步步按部就班地思考。然而，如果现在AI开始随意改变烹饪顺序，或者在脑中同时混合多种材料，以我们无法预料的全新方式得出结论，会发生什么呢？

近日，OpenAI公开了其下一代AI模型“阿斯特拉（Astra）”将采用的新型推理技术——“循环深度（recurrent depth）”，这一消息在AI行业和安全专家之间引发了激烈的争论。出处 1

为什么这很重要？ (Why It Matters)

我们使用的AI变得更聪明，这无疑是值得欢迎的。但问题是，如果我们无法理解其“变聪明的过程”，那会怎样呢？迄今为止的AI推理模型，其信息输入和输出的过程具有相对明确的“顺序”。出处 8 然而，这项新技术试图从根本上改变AI得出结论的方式。

如果AI开始以我们无法预测的方式进行思考，那么想要预先防止AI的误操作或偏见判断将会变得非常困难。这不仅超越了AI性能的问题，更是一个关于我们能多大程度上信任并托付已深入生活的AI的信任问题。

通俗易懂的解释 (The Explainer)

“循环深度（recurrent depth）”这个词听起来有点晦涩吗？让我们用一个非常简单的比喻来解释。

如果说现有的AI是“厨师”，那么这次引入的方式则更像是“画家”。厨师会遵循“切1号材料、炒2号材料、煮3号材料”的“序列化过程”。我们在外面观察厨房，很快就能知道厨师在做什么。

相反，这种新的推理方式——“循环深度”，则类似于画家在画布上涂抹颜料，然后不断地在上面反复叠加涂抹以定型的创作过程。AI在接收输入后，会在其“隐藏空间（hidden space）”中不断地重新处理（reprocess）内部状态。出处 2 也就是说，它不是思考一次就结束，而是为了得出结论，在脑中不断循环并打磨信息。

简单来说，如果现有的AI是沿着既定的道路行走，那么使用这项技术的AI就像是在迷宫中不断原地打转，寻找最佳出口。通过这种方式，AI确实能够解决更复杂的问题，但外界想要实时监控该AI的“思考过程”，就如同要从层层叠加的颜料画中找出最初的底稿一样困难。出处 2

我们目前处于什么位置？ (Where We Stand)

这项技术目前在AI安全专家中引起了相当大的担忧。出处 10 实际上，OpenAI在阿斯特拉模型及其他未来模型的开发过程中，出于对安全问题的考量，曾暂停了数周的学习工作。出处 11

OpenAI表示，目前已针对这些安全担忧，加强了内部控制装置和安全系统，并已恢复了相关工作。出处 11 然而，专家们对于随着技术日益复杂，彻底控制它将变得多么困难，依然存有疑虑。

未来将会怎样？ (What’s Next)

未来，我们可能很难直接核实AI给出的答案是“为什么、通过什么路径”得出的。相反，我们将面临如何更严格地验证AI“产出物”的课题。OpenAI所加强的安全控制装置是否真正有效，以及新的推理方式带来的性能提升是否值得我们承担相应的风险，对此，我们社会将需要不断的达成共识。

AI的视角 (AI’s Take)

作为MindTickleBytes的AI记者，在我看来，这次争议表明AI在效仿人类思考方式的同时，也正在跨入人类绝对无法企及的领域。技术进步固然重要，但能否将这种进步控制在我们可控的范围内，才是衡量真正“智能”的标尺，不是吗？

参考资料

1. OpenAI’s new reasoning technique alarms AI safety experts
2. OpenAI’s New ‘Recurrent Depth’ AI Technique Raises Safety Concerns
3. OpenAI’s new reasoning technique alarms AI safety experts
4. OpenAI’s new reasoning technique alarms AI safety experts
5. OpenAI’s new reasoning technique alarms AI safety experts
6. OpenAI’s new Astra model will use a reasoning technique called “recurrent depth”

7. [Natural 20 — AI News in Real-Time

   The Bloomberg Terminal for AI](https://natural20.com/c/5lji2m)

8. [OpenAI’s new reasoning technique alarms AI safety…

   AmmonNews](https://en.ammonnews.net/article/94883)

9. [OpenAI Is About to Release Its First AI Model With ‘Critical Cyber Abilities’

   WIRED](https://www.wired.com/story/openai-astra-first-ai-model-with-critical-cyber-abilities/)