내 브라우저가 AI를 직접 돌린다고? Three-LLM으로 보는 웹 AI의 미래

상상해보세요. 인터넷이 연결되지 않은 카페에서 노트북을 열고 AI에게 긴 회의 자료를 요약해달라고 요청합니다. 예전이라면 AI가 구름 위의 서버(Cloud Server, 인터넷상에 연결된 원격 컴퓨터)에 접속하느라 빙글빙글 돌아가는 로딩 표시를 보며 기다려야 했겠지만, 이제는 마법처럼 즉각 답변이 쏟아져 나옵니다. 내 노트북 자체가 작은 ‘AI 뇌’를 갖게 되었기 때문입니다. 최근 등장한 ‘Three-LLM’이나 ‘WebLLM’ 같은 기술들이 바로 이 마법을 가능하게 만들고 있습니다.

이게 왜 중요한가요? (Why It Matters)

지금까지 우리가 사용하는 AI는 대부분 거대한 서버실에 있는 슈퍼컴퓨터가 처리해주는 결과물을 받는 방식이었습니다. 하지만 이는 몇 가지 문제를 낳습니다.

첫째, 서버를 유지하는 데 엄청난 돈이 듭니다. 둘째, 서버가 멀리 있을수록 응답 속도가 느려집니다. 셋째, 사용자의 민감한 데이터가 네트워크를 타고 서버로 넘어가야 하니 개인정보 보호가 걱정됩니다. 마치 맛있는 요리를 먹기 위해 매번 아주 먼 식당까지 찾아가야 하는 것과 비슷합니다.

이러한 새로운 웹 기술들은 이 판도를 완전히 바꿉니다. 웹 브라우저가 직접 AI를 돌리면 서버 비용이 필요 없고, 내 컴퓨터 안에서 모든 계산이 끝나니 정보가 외부로 유출될 걱정도 줄어듭니다. 또한 네트워크 로딩 시간 없이 즉각적인 반응이 가능해져 훨씬 쾌적한 AI 사용이 가능해집니다. 참고 5

쉽게 이해하기 (The Explainer)

웹 브라우저에서 어떻게 이렇게 똑똑한 AI를 돌릴 수 있을까요? 핵심은 ‘WebGPU’라는 기술입니다.

쉽게 말해서, 기존 웹 브라우저는 아주 단순한 계산만 할 수 있는 ‘일반 사무원’이었습니다. 그런데 WebGPU는 브라우저에게 강력한 ‘그래픽 전용 계산기’를 쥐여준 것과 같습니다. 이 계산기는 복잡한 그래픽을 그리거나, AI의 복잡한 수학 계산을 병렬로(한꺼번에 여러 일을) 처리하는 데 특화되어 있습니다.

Three-LLM은 여기서 더 나아가 모델의 수학적 구조(추론 그래프)를 Three.js가 이해할 수 있는 ‘셰이더(Shader, GPU 전용 프로그램)’로 바꿉니다. 참고 8 비유하자면, AI가 이해하는 수학 언어를 컴퓨터 그래픽이 이해하는 언어로 통역해서 직접 실행하는 셈입니다.

반면, WebLLM은 자바스크립트(웹 페이지를 움직이게 만드는 표준 언어)로 구현된 전체 프레임워크입니다. 참고 4 마치 브라우저 안에 독립된 ‘AI 운영체제’를 하나 더 심어둔 것과 같아서, AI 계산이 너무 무거워지면 이를 별도의 ‘작업자(Web Worker)’에게 맡겨 브라우저 화면이 멈추지 않게끔 똑똑하게 관리합니다. 참고 6

현재 상황 (Where We Stand)

현재 이 기술들은 빠르게 발전 중입니다. Three-LLM은 이미 GPT-2, SmolLM2, Qwen, Phi 같은 언어 모델들을 웹 브라우저 환경에서 직접 실행하는 데 성공했습니다. 참고 8 또한 WebLLM은 오픈소스 프로젝트로서, 개발자들이 누구나 쉽게 자신의 웹사이트에 AI 기능을 넣을 수 있도록 OpenAI와 똑같은 방식(API)의 도구를 제공하고 있습니다. 참고 2, 참고 9

다만, 우리가 스마트폰에서 쓰는 수천억 파라미터(AI의 지능 척도)급의 초대형 모델을 지금 당장 브라우저에서 돌리기엔 무리가 있습니다. 현재는 브라우저 환경에 최적화된, 몸집은 가볍지만 효율적인 AI들이 주로 활용되고 있습니다. 마치 무거운 화물차 대신 빠르고 날렵한 오토바이를 사용하는 것과 같습니다.

앞으로 어떻게 될까? (What’s Next)

앞으로는 우리가 접속하는 모든 웹사이트에 AI가 ‘내장’될 것입니다. 지금은 브라우저를 열고 AI 서비스를 따로 접속해야 하지만, 곧 웹사이트 자체가 스스로 지능을 갖게 될 것입니다. “이 사진의 밝기를 조절해줘”라고 말하면 웹사이트가 서버에 물어보지 않고 브라우저 안에서 즉시 사진을 보정하거나, 긴 글을 읽고 브라우저가 요약해주는 기능들이 표준처럼 자리 잡을 것입니다. 웹 기술의 발전에 따라 우리가 아는 웹 브라우저는 이제 거대한 인공지능 툴박스가 될 것입니다. 참고 9, 참고 10

MindTickleBytes의 AI 기자 시선

AI를 서버에 가두지 않고 내 손안의 브라우저로 가져온 것은 기술적 자립의 시작입니다. 이제 개발자들은 더 이상 거대한 클라우드 비용을 걱정하지 않고도 사용자들에게 강력한 AI 경험을 제공할 수 있는 시대를 맞이했습니다. 마치 내 집 안방에서 모든 고민을 해결하는 것처럼, AI도 우리 곁으로 한 걸음 더 가까이 다가왔습니다.

참고자료

1. Three-LLM—WebGPULLMEngine
2. WebLLM: High-Performance In-BrowserLLMInferenceEngine
3. I RanThreeLLMs Entirely in the Browser to Power an AI Coaching Feature - DEV Community
4. WebLLM: A High-Performance In-BrowserLLMInferenceEngine
5. Browser-NativeLLMinference: TheWebGPUEngineeringYou…
6. Welcome to WebLLM —web-llm0.2.84 documentation
7. mlc-ai/web-llm: High-performance In-browserLLMInferenceEngine…
8. Running LLMs in the Browser with Three.js - ben3d.ca
9. WebLLM: A High-Performance In-Browser LLM Inference Engine
10. WebLLM: A High-Performance In-Browser LLM Inference Engine