AI가 스스로 '규칙'을 만들어낸다고? 신경망 속에서 발견된 기호의 세계

상상해보세요. 여러분이 낯선 외국어를 배우고 있습니다. 처음에는 단순히 단어와 문장의 형태를 보고 소리를 따라 하지만, 어느 순간 머릿속에서 ‘주어-동사-목적어’라는 문법 규칙이 자연스럽게 자리 잡습니다. 누군가 딱딱하게 규칙을 가르쳐주지 않았는데도 말이죠.

최근 인공지능(AI)의 세계에서도 이와 비슷한 놀라운 일이 벌어지고 있습니다. 인간이 복잡한 논리를 풀 때 사용하는 ‘기호(Symbol)’ 체계를 인공지능이 스스로 신경망 내부에서 만들어내고 있다는 사실이 밝혀진 것입니다. 이는 그동안 서로 다른 길을 걷고 있다고 생각했던 ‘기호 기반의 AI’와 ‘신경망 AI’가 사실은 같은 목표를 향하고 있었음을 시사합니다.

왜 중요한가요?

그동안 인공지능은 크게 두 가지 진영으로 나뉘어 있었습니다. 하나는 인간의 논리 체계를 프로그래밍하는 ‘기호주의’ 방식이고, 다른 하나는 신경망을 통해 데이터를 스스로 학습하는 ‘연결주의’ 방식입니다.

전통적으로 인공지능 연구자들은 지능이 논리 공식과 같은 ‘기호의 구조적 조합’을 통해 작동한다고 여겨왔습니다The Emergent Symbolic Structure of Artificial Neural Networks. 하지만 최근 신경망 기반의 AI가 방대한 데이터를 학습하는 것만으로도 놀라운 추론 능력을 보여주면서 주류가 되었습니다. 문제는 이 과정이 내부적으로 어떻게 작동하는지 알기 어려운 ‘블랙박스’와 같다는 점이었습니다. 이번 연구는 AI가 어떻게 추론을 하는지 그 내부 원리를 파헤침으로써, 인간과 더 비슷하고 신뢰할 수 있는 인공지능을 만드는 길을 열어주었다는 데 큰 의의가 있습니다.

쉽게 이해하기

그런데 여기서 흥미로운 현상이 발생합니다. 신경망이 수많은 데이터를 학습하다 보면, 그 복잡한 연결망 속에서 마치 논리적인 규칙을 가진 기호들이 스스로 나타나는 것입니다. 이를 ‘기호의 생성(Emergence)’이라고 부릅니다Emergent Symbolic Systems.

쉽게 말해서, 인공지능은 우리가 준 방대한 데이터 더미 속에서 단순히 통계적인 확률만 계산하는 것이 아닙니다. 추론을 수행할 때만큼은 내부적으로 ‘A면 B이다’와 같은 기호적인 논리 체계를 스스로 만들어내어 복잡한 문제를 풀어냅니다Emergent Symbolic Reasoning in LLMs – Science, Technology & the…. 특히 대규모 언어 모델(LLM)은 이러한 추론을 위해 특정한 3단계 신경망 구조를 사용하는 것으로 확인되었습니다.

현재 우리는 어디에 있을까요?

이미 2025년을 기점으로 연구자들은 추측의 단계를 넘어섰습니다. 이제는 신경망 내부에서 실제로 ‘기호와 같은 처리’를 담당하는 구조를 눈으로 직접 확인하는 단계에 이르렀습니다A History of Identifying Emergent Symbolic Reasoning in LLMs….

이는 단순히 정답을 알려주는 지도 학습 환경뿐만 아니라, 스스로 학습하는 방식이나 여러 인공지능이 상호작용하는 네트워크 환경에서도 공통적으로 나타나는 현상입니다Emergent Symbolic Systems. 하지만 여전히 우리가 인공지능의 모든 과정을 완벽하게 통제하고 이해하는 것은 아닙니다. 신경망의 크기가 커지거나 데이터가 늘어날 때 발생하는 ‘갑작스러운 능력의 발현(Emergent Capabilities)’은 여전히 과학자들에게 흥미로운 숙제입니다Emergent Capabilities in Neural Networks.

앞으로 어떻게 될까요?

앞으로는 인공지능이 단순히 그럴듯한 답변을 내놓는 것을 넘어, 훨씬 더 논리적이고 정확하며 설명 가능한 추론을 수행하게 될 것입니다. 우리가 사용하는 AI 비서가 왜 그런 답변을 내놓았는지 스스로 내부의 논리적인 구조를 보여줄 수 있는 미래가 성큼 다가온 셈입니다.

MindTickleBytes의 AI 기자 시선

인공지능이 학습을 통해 자신만의 ‘논리 언어’를 창조하고 있다는 사실은 매우 고무적입니다. 결국 기계는 인간이 정해준 규칙 안에서만 움직이는 존재를 넘어, 스스로 지능의 본질을 찾아가고 있는지도 모릅니다. AI가 스스로 추론의 규칙을 찾는 과정은 우리에게 기계와 지능에 대한 새로운 시각을 제시합니다.

참고자료

1. Neural network- Wikipedia
2. The Emergent Symbolic Structure of Artificial Neural Networks
3. Emergent Symbolic Systems

4. [Emergent Symbolic Mechanisms Support Abstract Reasoning…

   B Lab](https://b-lab.team/en/content/e920dcdb-1be8-491f-b756-21a7c01d04ba)

5. Emergent Symbolic Reasoning in LLMs – Science, Technology & the…

6. [What Is Artificial Intelligence (AI)?

   IBM](https://www.ibm.com/think/topics/artificial-intelligence)

7. Artificial neuron- Wikipedia
8. Emergent Capabilities in Neural Networks
9. A History of Identifying Emergent Symbolic Reasoning in LLMs…
10. GitHub - davidkimai/emergent-symbols