AI가 논문을 읽고 '요약'해준다고? AI의 두뇌를 직접 만들어보면 알 수 있습니다

상상해보세요. 우리가 매일 사용하는 AI 비서가 갑자기 “오늘부터 나는 왜 이런 대답을 하는지 설명해 줄게”라고 말한다면 어떨까요? 사실 우리가 현재 사용하는 거대언어모델(LLM)은 많은 사람에게 ‘무엇이든 답해주는 블랙박스’와 같습니다. 그 안에서 정확히 어떤 일이 일어나는지, 단어들을 어떻게 연결하는지 궁금했던 분들을 위해, 최근 개발자들 사이에서 흥미로운 움직임이 일고 있습니다. 바로 AI를 밖에서 불러오는 것이 아니라, 직접 밑바닥부터 코딩해보는 것입니다.

이게 왜 중요한가요?

AI 기술이 빠르게 발전하면서, 우리는 점차 AI를 도구가 아닌 하나의 ‘생명체’나 ‘마법’처럼 대하기 시작했습니다. 하지만 AI는 결국 수학과 코드로 이루어진 복잡한 계산기일 뿐입니다. 특히 개발자들에게 있어 AI의 내부 작동 원리를 이해하는 것은 이제 단순한 호기심을 넘어 필수적인 기술적 통찰이 되고 있습니다. ‘Node-LLM’ 프로젝트와 같이 TypeScript를 활용해 LLM을 구현하는 가이드들은 개발자가 AI 모델의 동작을 블랙박스에서 투명한 논리 구조로 바꾸는 데 도움을 줍니다 Source 1, Source 3. 이는 단순히 AI를 사용하는 사용자를 넘어, AI가 어떻게 사고하는지 설계할 수 있는 단계로 나아가는 중요한 디딤돌이 됩니다.

쉽게 이해하기

AI의 핵심 구조인 ‘트랜스포머(Transformer, 문장의 단어들 사이 관계를 파악하는 AI 구조)’를 이해하는 것은 마치 퍼즐을 맞추는 것과 같습니다. 예를 들어, 어텐션(Attention) 메커니즘을 직접 구현해 보는 과정은, AI가 문장에서 어떤 단어에 ‘집중’할지를 결정하는 규칙을 만드는 일입니다 Source 13, Source 14.

쉽게 비유하자면, 우리가 사용하는 라이브러리가 대신 해주는 ‘인과적 마스크(causal mask, AI가 미래의 단어를 미리 보지 못하게 차단하는 장치)’나 ‘헤드 슬라이싱(head-slicing, 정보를 여러 층으로 나누어 처리하는 기법)’을 손수 코드로 작성해보면, AI가 어떻게 단어 간의 맥락을 읽어내는지 비로소 깨닫게 됩니다 Source 13. 이는 마치 빵을 사 먹기만 하다가, 밀가루를 반죽하고 발효시키는 과정을 직접 경험하며 빵의 구조를 이해하는 것과 같습니다. 초기 단계에서는 문자의 단위를 쪼개는 토크나이저(Tokenizer, 문장을 AI가 이해할 수 있는 숫자로 바꾸는 도구)부터 시작해, 간단한 모델을 거쳐 조금씩 복잡한 트랜스포머로 발전해 나갑니다 Source 7.

어디에 서 있나요?

현재 많은 학습 프로젝트가 진행되고 있지만, 한 가지 분명히 알아야 할 사실이 있습니다. 이렇게 학습시킨 모델이 바로 ‘클로드(Claude)’나 ‘제미나이(Gemini)’ 같은 고성능 AI를 즉시 대체할 수 있는 것은 아닙니다 Source 9, Source 12.

초기에 학습시킨 트랜스포머 모델은 텍스트를 그럴듯하게 이어쓰는 능력은 갖추게 되지만, 사용자가 던지는 복잡한 질문에 추론하거나 지시 사항을 정확히 따르는 능력은 부족한 경우가 많습니다 Source 11. 이러한 능력을 얻기 위해서는 ‘사후 학습(Post-Training)’과 ‘정렬(Alignment, AI의 대답을 인간의 의도에 맞게 조정하는 과정)’이라는 훨씬 복잡한 단계가 추가로 필요합니다 Source 11. 즉, 밑바닥부터 만드는 LLM은 AI의 ‘뇌’를 구성하는 기본 원리를 배우는 아주 훌륭한 교육 과정이지만, 실무적인 성능을 쫓는 단계는 아닙니다 Source 7, Source 9.

앞으로 무엇을 기대할 수 있을까요?

앞으로도 AI의 구조를 밑바닥부터 이해하려는 시도는 계속될 것입니다. 더 많은 개발자가 CPU만으로도 학습 가능한 모델을 직접 구현해 보며 AI의 기술적 장벽을 낮출 것으로 보입니다 Source 21. 이런 과정은 더 나은 AI 서비스를 만드는 기반 지식이 될 것입니다. 이제는 단순히 AI가 대답하는 결과값에 감탄하는 시대를 지나, 그 결과값이 어떤 알고리즘과 수학적 데이터의 흐름에서 탄생했는지 이해하려는 노력이 더 중요해질 것입니다.

MindTickleBytes의 AI 기자 시선

우리는 매일 AI와 대화하지만, 정작 AI가 대화하는 방식을 배울 기회는 적었습니다. 직접 코딩으로 밑바닥부터 AI를 만들어 보는 과정은 AI를 ‘신비로운 존재’가 아닌 ‘우리가 설계하고 개선할 수 있는 기술’로 되돌려 놓습니다. 더 이상 AI를 마법으로 부르지 말고, 이제는 그 안의 엔진을 직접 열어보는 건 어떨까요?

참고자료

1. Building an LLM in NodeJS

   Building an LLM in NodeJS (https://book.humanexperiences.io/)

2. Node-LLM - Build LLMs from Scratch · Hacker News

   Zeli (https://zeli.app/story/50085332)

3. node-llm: 从零构建大型语言模型指南 — Show HN: Building an LLM fro… (https://zeli.app/zh/story/50085332)
4. GitHub - Maugun/llm-from-scratch-ts: A pedagogical mini LLM … (https://github.com/Maugun/llm-from-scratch-ts)
5. I Trained My Own LLM from Scratch in 2025: What That Viral HN… (https://dev.to/jtorchia/i-trained-my-own-llm-from-scratch-in-2025-what-that-viral-hn-tutorial-doesnt-tell-you-about-the-l66)
6. TrainLLMFromScratch (https://fareedkhan-dev.github.io/train-llm-from-scratch/)
7. BUILDING AN LLM FROM SCRATCH · PART 2 OF 6 Attention: How… (https://www.linkedin.com/pulse/building-llm-from-scratch-part-2-6-attention-how-tokens-imamovich-2orce)
8. 3) Build an LLM from Scratch 3: Coding attention mechanisms (https://rutube.ru/video/65bc64a2ed5b1b16fe86118bded16c96/)
9. Build and Train a 25M Parameter LLM From Scratch on Your CPU (https://www.freecodecamp.org/news/build-and-train-a-25m-parameter-llm-from-scratch-on-your-cpu/)