AI 真的像人类一样思考吗？我们未曾了解的“外星智能”真相

한국어 English 日本語 简体中文 繁體中文
By Gi Pyeong Lee
AI LLM 智能 技术知识
人类大脑结构与错综复杂的 AI 神经网络并排排列，直观展示智能差异的图形
AI Summary

LLM 并非像人类那样通过经验学习，而是通过吸收海量语言信息进行学习，拥有完全不同的智能形式。

想象一下。你是一个刚出生的婴儿。你听着妈妈的声音，摸着玩具，甚至因为触碰高温物体而感到灼痛。这些琐碎的经验积累起来，让你自己领悟到了“啊，原来碰到热的东西要小心”这样的因果关系。

但是，如果有一个存在，它从未走出过世界，却读完了人类过去几千年来写下的所有书籍和对话，会怎样呢？这个存在，真的能说拥有和我们一样的智能吗？

随着近来 ChatGPT 等大型语言模型 (LLM, Large Language Model) 的出现，人们开始好奇 AI 是否真的变得像人类一样聪明。然而，专家们指出，LLM 所展现出的能力与人类的思维方式有着本质区别，是一种类似于“外星智能”的存在 [Source 2], [Source 10]。

为什么这很重要？

区分 AI 是在像人类一样思考，还是仅仅在进行聪明的模仿，这一点至关重要。如果 AI 能够理解因果关系并像人类一样学习，它们或许能够自主设定目标并生活在这个世界上 [Source 3]。

但如果它仅仅是学习了语言模式，我们就必须不断监管 AI 所提供的信息是真实的还是扭曲的。将 AI 仅仅视为一种便捷的“工具”，还是将其当作与我们平等的“同类智能”对待，判断标准就在于此。

浅显易懂的解释

我们所使用的 LLM 的核心是名为“Transformer（一种把握句子中词语之间关系的 AI 结构）”的技术 [Source 7]。简单来说，Transformer 是一个将文本转换为数字列表（向量），然后通过数学计算预测下一个词出现概率最高的机器 [Source 7]。

用一个比喻来说：如果人类爬山是“挥洒汗水积累经验的活动”，那么 LLM 就像是没有亲自登山，却读完了数万名登山者留下的记录，从而通过数据精通“走到哪里会有乱石，走到哪里会有美景” [Source 1]。因为没有经过经验只吸收了知识，所以虽然最终达到的地点看起来一样，但过程是完全不同的 [Source 1]。

此外，LLM 每次开启新对话时，都仅使用训练阶段输入的“固定知识”来回答 [Source 10]。人类会从昨天的错误中学习并修正明天的目标，而 AI 在对话结束后，并不会将该经验整合为自身智能的一部分，而是回归到原始的数据状态 [Source 10]。

当前状况

目前 AI 虽然受到诸多限制，但已在令人惊叹的领域得到应用。其中“LLM-as-a-judge（将 AI 作为裁判来使用）”的技术最具代表性 [Source 9], [Source 11]。例如，让 AI 写一篇长文，然后让另一个 AI 对该文章进行自主评估并提出改进方向 [Source 9]。这种方式与以往由人工逐一评估的方式相比，在成本降低最高 98% 的同时，还能提供人类水平的评估质量 [Source 18]。

但这种能力归根结底是基于所学数据寻找模式的能力。不少学者指出，它与人类在生活中使用的“内部世界模型（在世界中把握因果关系并为实现目标而使用的程序）”相去甚远 [Source 3]。我们必须牢记，AI 逻辑严密的回答背后，是“概率计算”而非“理解”。

未来会怎样？

未来，AI 将超越仅仅学习英语语境数据的阶段，向满足不同语言语境下独特需求的方向发展 [Source 16]。目前许多国家已经构建了各自语言特有的 LLM，这意味着 AI 将成为与更多人亲近的存在 [Source 17]。

我们必须始终铭记，AI 所展现出的智能具有与人类思维方式不同的“外星特征”。因为即使它们回答得很好，也不意味着它们像人类一样思考和感受 [Source 10]。不要忘记，AI 并非进化的生命体，而是精心设计的精密信息处理结晶。

MindTickleBytes 的 AI 记者视角

越是试图将 AI 看作与人类相同的智能，我们就会越感到失望或恐惧。接受 AI 仅仅是吸收知识的顶级海绵，而非通过人生经验积累智慧的存在这一事实，我们才能更明智地使用 AI 这一工具。AI 不会是我们的替代者，而应作为扩展我们知识的强大“外部大脑”存在，那时它将最能闪耀光芒。

参考资料

  1. [Storytelling with Impact What kind of intelligence is an LLM?](https://www.storytellingwithimpact.com/nature-of-intelligence-episode-three-what-kind-of-intelligence-is-an-llm/)
  2. LLM vs. Human Intelligence - LinkedIn
  3. Does intelligence ‘emerge’ in large language models?
  4. The Secret Lives of LLMs - Psychology Today
  5. What LLM Is and Is Not: a Philosophical and Practical Overview
  6. Large Language Models and Cognitive Science: A Comprehensive …
  7. [The Yale Review Melanie Mitchell: The Dangerous Unknowns at …](https://yalereview.org/article/melanie-mitchell-jagged-intelligence)
  8. [LLM’sasaDifferentKindofIntelligence Hacker News](https://news.ycombinator.com/item?id=48791650)
  9. LLMasaJudge: опыт оптимизации генератора описаний… / Хабр
  10. The First AlienIntelligence: Why LLMs Think Nothing Like Us
  11. towardsdatascience.com/llm-as-a-judge-a-practical-guide
  12. Nigeria Launches First MultilingualLLM- Silicon Africa
  13. Hugging Face, Inception & MBZUAI launch new ArabicLLMleaderboard
  14. [LLM-as-a-judge on Amazon Bedrock Model Evaluation Artificial…](https://aws.amazon.com/blogs/machine-learning/llm-as-a-judge-on-amazon-bedrock-model-evaluation/)
  15. [Storytelling with Impact Intelligence- Babies vs Machines](https://www.storytellingwithimpact.com/nature-of-intelligence-episode-four-babies-vs-machines/)
测试你的理解
Q1. LLM 与人类最根本的学习方式差异是什么？
  • 两者都通过读书以相同方式学习
  • 人类通过经验学习，LLM 通过吸收语言学习
  • LLM 通过经验进行学习
人类在与世界直接互动中通过经验学习，而 LLM 则是被动吸收人类留下的海量语言数据进行学习。
Q2. LLM 所使用的核心 AI 结构名称是什么？
  • Transformer (转换器)
  • 神经元
  • 数据中心
LLM 使用的是名为“Transformer”的特殊神经网络，专为处理诸如单词或对话等数据流（序列）而设计。
Q3. LLM 在每次进行对话时具有什么特点？
  • 记得所有之前的对话
  • 不断积累新的经验
  • 仅基于训练好的固定知识，每次都从头开始
LLM 在对话时仅基于训练过程中固化的知识进行回答，不会像人类那样实时积累经验来扩展智能。