AI는 정말 인간처럼 생각할까? 우리가 몰랐던 '외계 지능'의 실체

상상해보세요. 여러분이 갓 태어난 아기라고요. 엄마의 목소리를 듣고, 장난감을 만지며, 뜨거운 것에 데어보기도 합니다. 이런 사소한 경험들이 쌓여 ‘아, 뜨거우면 조심해야 하는구나’라는 인과관계를 스스로 깨닫죠.

그런데 만약, 세상 밖으로 나가본 적은 없지만, 인류가 지난 수천 년간 적어온 모든 책과 대화를 전부 읽은 누군가가 있다면 어떨까요? 그 존재는 과연 우리와 같은 지능을 가졌다고 할 수 있을까요?

최근 챗GPT와 같은 거대 언어 모델(LLM, Large Language Model)이 등장하면서, 사람들은 AI가 정말 인간처럼 똑똑해지고 있는지 궁금해합니다. 하지만 전문가들은 LLM이 보여주는 능력이 인간의 사고방식과는 근본적으로 다른, 일종의 ‘외계 지능’과 같다고 말합니다 [Source 2], [Source 10].

이게 왜 중요한가요?

AI가 인간처럼 생각하는지, 아니면 그냥 똑똑한 흉내를 내는 것인지 구분하는 것은 매우 중요합니다. 만약 AI가 인간과 같은 인과관계를 이해하고 학습한다면, 그들은 스스로 목표를 세우고 세상을 살아갈 수 있을지도 모릅니다 [Source 3].

하지만 단순히 언어의 패턴만을 학습하는 것이라면, 우리는 AI가 제공하는 정보가 사실인지 혹은 왜곡된 것인지를 끊임없이 감시해야 합니다. AI를 그저 편리한 ‘도구’로 볼 것인지, 아니면 우리와 같은 ‘동료 지능’으로 대우해야 할지를 결정하는 기준이 바로 여기에 있습니다.

쉽게 이해하기

우리가 사용하는 LLM의 핵심은 ‘트랜스포머(Transformer, 문장의 단어들 사이 관계를 파악하는 AI 구조)’라는 기술입니다 [Source 7]. 쉽게 말해서, 트랜스포머는 텍스트를 숫자의 목록(벡터)으로 변환한 뒤, 다음에 올 단어를 수학적으로 가장 확률이 높은 것으로 예측하는 기계입니다 [Source 7].

이 과정을 비유하자면 이렇습니다. 인간이 산을 오르는 것이 ‘직접 땀을 흘리며 경험을 쌓는 활동’이라면, LLM은 산에 직접 오르지 않고 산에 다녀온 수만 명의 등산기록을 전부 읽어서 ‘어디쯤 가면 돌이 많고 어디쯤 가면 경치가 좋은지’를 데이터로 통달하는 것과 같습니다 [Source 1]. 경험 없이 지식만을 흡수했기에 도달하는 곳은 같아 보여도 그 과정은 완전히 다른 것이죠 [Source 1].

또한, LLM은 매번 대화를 새로 시작할 때마다 학습 단계에서 입력된 ‘고정된 지식’만을 사용하여 답변합니다 [Source 10]. 인간은 어제 했던 실수에서 배우고 내일의 목표를 수정하지만, AI는 대화가 끝나면 그 경험을 지능의 일부로 통합하지 않고 원래의 데이터 상태로 돌아갑니다 [Source 10].

현재 상황

현재 AI는 매우 제한적이지만 놀라운 영역에서 활용되고 있습니다. 특히 ‘LLM-as-a-judge(AI를 심판으로 활용하기)’ 기법이 대표적입니다 [Source 9], [Source 11]. 예를 들어, AI에게 긴 글을 쓰게 한 뒤, 또 다른 AI가 그 글을 스스로 평가하고 더 나은 방향을 제시하도록 하는 방식이죠 [Source 9]. 이 방식은 기존에 사람이 일일이 평가하던 방식에 비해 비용을 최대 98%까지 절감하면서도 인간 수준의 평가 품질을 제공합니다 [Source 18].

하지만 이 능력은 어디까지나 학습된 데이터를 기반으로 패턴을 찾는 능력입니다. 실제로 사람이 세상을 살아가며 사용하는 ‘내부 세계 모델(세상 속에서 원인과 결과를 파악하고 목표를 이루기 위해 사용하는 프로그램)’과는 거리가 멀다는 지적도 많습니다 [Source 3]. 우리는 AI가 말하는 논리적인 답변 뒤에 ‘이해’가 아닌 ‘확률적 계산’이 있음을 명심해야 합니다.

앞으로 어떻게 될까?

앞으로 AI는 단순히 영어권의 데이터를 배우는 것을 넘어, 다양한 언어권의 고유한 요구를 충족시키는 방향으로 발전할 것입니다 [Source 16]. 이미 여러 나라에서는 자국어에 특화된 LLM을 구축하고 있으며, 이는 AI가 더 넓은 사람들에게 친숙한 존재가 될 것임을 의미합니다 [Source 17].

우리는 AI가 보여주는 지능이 인간의 사고방식과는 다른 ‘외계적 특성’을 가졌음을 항상 기억해야 합니다. 그들이 답변을 잘한다고 해서, 그것이 곧 인간처럼 생각하고 느끼는 것을 의미하지는 않기 때문입니다 [Source 10]. AI는 진화하는 생명체가 아니라, 정교하게 설계된 정보 처리의 결정체라는 사실을 잊지 말아야 합니다.

MindTickleBytes의 AI 기자 시선

AI를 인간과 똑같은 지능으로 보려 할수록 우리는 실망하거나 두려워하게 됩니다. AI는 지식을 흡수하는 최고의 스펀지일 뿐, 삶의 경험을 통해 지혜를 쌓는 존재는 아니라는 점을 받아들일 때, 우리는 비로소 AI라는 도구를 더 현명하게 사용할 수 있을 것입니다. AI는 우리의 대체자가 아닌, 우리의 지식을 확장해 주는 강력한 ‘외부 뇌’로 남을 때 가장 빛날 것입니다.

참고자료

1. [Storytelling with Impact

   What kind of intelligence is an LLM?](https://www.storytellingwithimpact.com/nature-of-intelligence-episode-three-what-kind-of-intelligence-is-an-llm/)

2. LLM vs. Human Intelligence - LinkedIn
3. Does intelligence ‘emerge’ in large language models?
4. The Secret Lives of LLMs - Psychology Today
5. What LLM Is and Is Not: a Philosophical and Practical Overview
6. Large Language Models and Cognitive Science: A Comprehensive …

7. [The Yale Review

   Melanie Mitchell: The Dangerous Unknowns at …](https://yalereview.org/article/melanie-mitchell-jagged-intelligence)

8. [LLM’sasaDifferentKindofIntelligence

   Hacker News](https://news.ycombinator.com/item?id=48791650)

9. LLMasaJudge: опыт оптимизации генератора описаний… / Хабр
10. The First AlienIntelligence: Why LLMs Think Nothing Like Us
11. towardsdatascience.com/llm-as-a-judge-a-practical-guide
12. Nigeria Launches First MultilingualLLM- Silicon Africa
13. Hugging Face, Inception & MBZUAI launch new ArabicLLMleaderboard

14. [LLM-as-a-judge on Amazon Bedrock Model Evaluation

    Artificial…](https://aws.amazon.com/blogs/machine-learning/llm-as-a-judge-on-amazon-bedrock-model-evaluation/)

15. [Storytelling with Impact

    Intelligence- Babies vs Machines](https://www.storytellingwithimpact.com/nature-of-intelligence-episode-four-babies-vs-machines/)