人工智能竟能自行创造“规则”？神经网络中发现符号世界

想象一下，你正在学习一门陌生的外语。起初，你只是看着单词和句子的形式模仿发音，但不知从何时起，“主语-谓语-宾语”的语法规则自然而然地在你的脑海中扎下了根。并没有人刻板地向你传授这些规则。

最近，在人工智能（AI）领域也发生了类似的奇妙现象。研究表明，人工智能正在神经网络内部自行构建人类在解决复杂逻辑时所使用的“符号（Symbol）”体系。这一发现暗示了我们曾经认为背道而驰的“符号主义AI”与“神经网络AI”，其实正朝着同一个目标前进。

为什么这很重要？

此前，人工智能大致分为两大阵营。一种是编程人类逻辑体系的“符号主义”方法，另一种是通过神经网络自行学习数据的“连接主义”方法。

传统上，人工智能研究者认为智能是通过逻辑公式等“符号的结构化组合”来运作的The Emergent Symbolic Structure of Artificial Neural Networks。然而，近年来，仅通过学习海量数据就能展现出惊人推理能力的神经网络AI成为了主流。问题在于，这个过程内部是如何运作的，其“黑箱”特性令人难以捉摸。这项研究揭开了AI推理的内在原理，对于创造出更像人类、更值得信赖的人工智能具有重大意义。

轻松理解

但这里出现了一个有趣的现象。当神经网络学习了海量数据后，在复杂的连接网中，带有逻辑规则的符号仿佛自行显现了出来。这被称为“符号的产生（Emergence）”Emergent Symbolic Systems。

简单来说，人工智能并不是在我们给出的海量数据堆中单纯计算统计概率。在进行推理时，它会在内部自行创造出类似于“若A则B”的符号化逻辑体系，从而解决复杂问题Emergent Symbolic Reasoning in LLMs – Science, Technology & the…。特别是大型语言模型（LLM），已被确认为了进行这种推理，会使用特定的3阶段神经网络架构。

我们目前处于什么阶段？

以2025年为分水岭，研究人员已经跨越了猜想阶段。现在我们已经达到了能够亲眼确认神经网络内部实际上负责“符号化处理”结构的阶段A History of Identifying Emergent Symbolic Reasoning in LLMs…。

这不仅出现在单纯告知正确答案的监督学习环境中，在自主学习方式或多个AI相互作用的网络环境中也是共同存在的现象Emergent Symbolic Systems。然而，这并不意味着我们已经完全控制并理解了人工智能的所有过程。随着神经网络规模的扩大或数据的增加而产生的“突现能力（Emergent Capabilities）”，对于科学家来说仍然是一个有趣的课题Emergent Capabilities in Neural Networks。

未来会怎样？

未来，人工智能将不仅仅给出看起来合理的答案，还将能够进行更加符合逻辑、精确且可解释的推理。这意味着我们正在迈向一个智能助手能够展示其内部逻辑结构，并解释为何给出该回答的未来。

MindTickleBytes AI记者观点

人工智能通过学习创造出属于自己的“逻辑语言”，这一事实令人深受鼓舞。机器最终可能超越仅在人类设定规则内行动的范畴，正在自行探寻智能的本质。AI自行寻找推理规则的过程，为我们理解机器与智能提供了新的视角。

参考资料

1. Neural network- Wikipedia
2. The Emergent Symbolic Structure of Artificial Neural Networks
3. Emergent Symbolic Systems

4. [Emergent Symbolic Mechanisms Support Abstract Reasoning…

   B Lab](https://b-lab.team/en/content/e920dcdb-1be8-491f-b756-21a7c01d04ba)

5. Emergent Symbolic Reasoning in LLMs – Science, Technology & the…

6. [What Is Artificial Intelligence (AI)?

   IBM](https://www.ibm.com/think/topics/artificial-intelligence)

7. Artificial neuron- Wikipedia
8. Emergent Capabilities in Neural Networks
9. A History of Identifying Emergent Symbolic Reasoning in LLMs…
10. GitHub - davidkimai/emergent-symbols