AI 真的在“思考”吗？脑海中隐藏的符号

想象一下。当我们学习外语时，不仅仅是死记硬背单词的排列统计规律，还会学习“主谓宾”这种语法框架，也就是所谓的“符号结构”。如果 AI 也能自主构建出这样的逻辑框架，会怎样呢？

我们通常认为大型语言模型（LLM）仅仅是概率性预测下一个单词的“超大规模统计机器”。然而，学界近期提出了一个令人惊叹的假设：AI 可能在其复杂的内部数值数据中，隐性地存储着类似人类所使用的符号逻辑体系。

为什么这很重要？

到目前为止，AI 就像一个难以知晓其内部运作方式的“黑箱”。因为很难准确解释 AI 为什么会给出那样的答案。如果能证明 AI 在内部拥有类似人类语言的逻辑结构，我们就能更清晰地理解并管控 AI 的判断依据。这将是构建更值得信赖、更安全的 AI 系统的核心关键。这也意味着我们获得了分析和优化 AI 性能所需的新蓝图。

易懂的解释

透视 AI 的内部，是一片由无数数值组成的“向量（Vector，AI 为理解数据而转换成的数字信息）”海洋。研究人员认为，在这巨大的数值排列中，仿佛拼图碎片一般隐藏着逻辑规则。

打个比方，图书馆里有海量的藏书，但这些书并非简单堆砌，而是按主题进行了完美分类。例如，当组合“猫”这个词和“坐着”这个词时，AI 并非仅仅记住这两个词的概率性结合，而是自主学习了将“猫”这一对象（Object）和“坐着”这一行为（Action）进行符号化区分的框架。这被称为“张量积表示（TPR, Tensor Product Representation）”结构，是一种试图将复杂数据按组成单位进行拆分理解的尝试。来源 1, 来源 5

为了对其进行分析，研究人员使用了一种特殊的分析方法——DISCOVER (DISsecting COmpositionality in VEctor Representations)。它就像是 AI 的“显微镜”，能够剖析 AI 复杂的向量表示，寻找其中蕴含的逻辑组成要素。来源 1

现状

目前已经取得了许多成果。研究表明，LLM 正在以线性（Linear）结构学习空间和时间的概念。即使是面对城市或地标等不同的对象，它也能系统性地掌握其空间和时间位置。这种信息即便在微调模型设置后也不会改变，非常稳固。来源 9

不过，我们所使用的语言模型与人类大脑处理语言的机制，在计算方式上仍存在根本性差异。来源 4 因此，很难断言目前的 AI 模型已经完美模拟了人类的逻辑体系。但随着明确表达结构符号的“结构化符号表示（SSR, Structural Symbolic Representation）”等方法论的研究，让 AI 更聪明地理解结构的尝试正在活跃进行中。来源 6

未来展望

未来的 AI 研究将超越单纯增加数据量的阶段，转向衡量 AI 内部构建“逻辑结构”能力的程度。像量子层级结构（Quantum Hierarchy）这样的新型分析工具，将帮助我们更细致地探究 AI 的内部动力学，并协助我们按照预期管控 AI。来源 8

如果 AI 有朝一日能拥有与我们思维方式相同的逻辑结构，人类与 AI 的对话将演进到比现在更深刻、更精准的水平。期待各位智能手机里的那位“小助手”，不再只是枯燥的统计播报者，而是进化成能理解“结构”并据此应答的真正智慧体。

MindTickleBytes 的 AI 记者视角

AI 正从数字排列中提取逻辑，这一点非常令人兴奋。理解符号结构的 AI 将不再是单纯模仿人类说话的鹦鹉，它极有可能成为能够真正“结构化”理解我们意图的可靠伙伴。

参考资料

1. The Emergent Symbolic Structure of Artificial Neural Networks
2. LLM-Generated Numerical Representations
3. Neurosymbolic Large Language Models: A Survey of Symbolic…
4. Deciphering language processing in the human brain through LLM…
5. Tom McCoy: Research statement (for a linguistics audience)
6. Structural Symbolic Representation (SSR)
7. The Geometry of Truth: Emergent Linear Structure in LLM… - Arize AI
8. Quantum Hierarchy for Understanding LLM Representations by…
9. Language Models Represent Space and Time