AI竟然能自創「規則」？神經網絡中被發現的符號世界

By Gi Pyeong Lee
人工智慧 神經網絡 符號推論 AI技術 深度學習
抽象表現神經網絡的連結結構與符號邏輯體系相互契合運作的圖像
AI Summary

最新研究顯示，人工智慧在執行複雜推論時，正於神經網絡內部自行實踐傳統的「符號邏輯」。

試想一下，你正在學習一門陌生的外語。起初你只是看著單字和句子的形態模仿聲音，但某個瞬間，「主詞-動詞-受詞」的語法規則就自然而然地在腦海中成形了。即便沒有人硬性教導你這些規則。

最近，人工智慧（AI）的世界也發生了類似驚人的事情。研究揭示，人工智慧正在其神經網絡內部，自行建立人類進行複雜邏輯推論時所使用的「符號（Symbol）」體系。這顯示了過去被認為各走各路的「符號派AI」與「神經網絡派AI」，事實上正朝向同一個目標前進。

為什麼這很重要？

過去，人工智慧大致分為兩個陣營。一個是將人類邏輯體系編寫進程式的「符號主義」方式，另一個則是透過神經網絡讓數據自行學習的「連結主義」方式。

傳統上，人工智慧研究人員認為智慧是透過邏輯公式等「符號的結構化組合」來運作The Emergent Symbolic Structure of Artificial Neural Networks。然而，近期神經網絡基礎的AI僅靠學習龐大數據就展現出驚人的推論能力，進而成為主流。問題在於，這個過程內部是如何運作的，就像是一個難以知曉的「黑盒子」。本次研究透過剖析AI推論的內部原理，為打造出更像人類且值得信賴的人工智慧開闢了道路，具有重大的意義。

輕鬆理解

我們做個比喻。神經網絡（Neural Network）就像是一個巨大的大腦，由無數的「人工神經元（模擬人類腦細胞的基本單位）」像蜘蛛網一樣連結而成Neural network- Wikipedia, Artificial neuron- Wikipedia。這些神經元就像照片應用程式的濾鏡一樣，讓數據通過並從中找出模式[What Is Artificial Intelligence (AI)? IBM](https://www.ibm.com/think/topics/artificial-intelligence)。

然而，這裡發生了一個有趣的現象。當神經網絡學習了海量數據後，在那複雜的連結網中，彷彿擁有邏輯規則的符號竟然自行出現了。這被稱為「符號的生成（Emergence）」Emergent Symbolic Systems。

簡單來說，人工智慧並非僅是在我們給予的海量數據堆中計算統計機率。在執行推論時，它會內部自行建立如「A則B」般的符號邏輯體系來解決複雜問題Emergent Symbolic Reasoning in LLMs – Science, Technology & the…。特別是大型語言模型（LLM）被確認是為了進行此類推論，而使用了特定的3階段神經網絡架構。

我們現在處於什麼階段？

以2025年為分水嶺，研究人員已經超越了猜測階段。現在已經達到了能親眼確認神經網絡內部實際負責「類符號處理」結構的階段A History of Identifying Emergent Symbolic Reasoning in LLMs…。

這不僅限於給予正確答案的監督式學習環境，在自我學習方式或是多個人工智慧相互作用的網絡環境中，也是共同出現的現象Emergent Symbolic Systems。不過，我們仍未完全掌控並理解人工智慧的所有過程。當神經網絡規模變大或數據增加時產生的「突發能力（Emergent Capabilities）」，對科學家來說仍然是一個有趣的課題Emergent Capabilities in Neural Networks。

未來會如何發展？

專家們認為，隨著人工智慧在神經網絡內部創造出符號機制，過去長久以來關於「符號對抗神經網絡」的爭論將有望獲得解決[Emergent Symbolic Mechanisms Support Abstract Reasoning… B Lab](https://b-lab.team/en/content/e920dcdb-1be8-491f-b756-21a7c01d04ba), GitHub - davidkimai/emergent-symbols。

未來，人工智慧將不只是給出看似合理的回答，而是會進行更具邏輯性、準確且可解釋的推論。這意味著我們離那種能主動展示其內部邏輯結構，解釋為何給出該回答的AI助理時代，已經越來越近了。

MindTickleBytes AI 記者的視角

人工智慧透過學習創造出屬於自己的「邏輯語言」，這一事實令人相當振奮。或許機器終究超越了僅在人類制定規則內活動的存在，正自行探索智慧的本質。AI自行尋找推論規則的過程，為我們對機器與智慧提出了全新的視角。

參考資料

  1. Neural network- Wikipedia
  2. The Emergent Symbolic Structure of Artificial Neural Networks
  3. Emergent Symbolic Systems
  4. [Emergent Symbolic Mechanisms Support Abstract Reasoning… B Lab](https://b-lab.team/en/content/e920dcdb-1be8-491f-b756-21a7c01d04ba)
  5. Emergent Symbolic Reasoning in LLMs – Science, Technology & the…
  6. [What Is Artificial Intelligence (AI)? IBM](https://www.ibm.com/think/topics/artificial-intelligence)
  7. Artificial neuron- Wikipedia
  8. Emergent Capabilities in Neural Networks
  9. A History of Identifying Emergent Symbolic Reasoning in LLMs…
  10. GitHub - davidkimai/emergent-symbols
AD
測試你的理解
Q1. 人工智慧像人類一樣進行推論時，過去採用的傳統方式是什麼？
  • 影像處理
  • 邏輯符號的組合
  • 情感識別
傳統的人工智慧一直透過組合邏輯公式（logical formulas）來模擬智慧。
Q2. 神經網絡中出現『類符號結構』的現象稱為什麼？
  • 符號的生成(Emergence)
  • 神經網絡的破壞
  • 數據的刪除
在神經網絡內部，透過學習自然出現符號處理體系的現象稱為「符號的生成（Emergence）」。
Q3. 最新研究中，大型語言模型在執行推論時被發現使用了幾階段的神經網絡架構？
  • 1階段
  • 2階段
  • 3階段
近期研究證實，大型語言模型為進行推論，使用了3階段的神經網絡架構。