내 웹 브라우저가 AI 두뇌로 변신? 'Goku'가 가져온 변화

상상해보세요. 인터넷 연결이 끊겨도, 내 개인정보가 서버로 전송될 걱정 없이 웹 브라우저 창 하나만으로 나만의 똑똑한 AI 비서를 실행할 수 있다면 어떨까요? 지금까지 인공지능(AI)을 쓰려면 거대한 서버를 거치거나 복잡한 프로그램을 따로 설치해야 했습니다. 하지만 최근 등장한 ‘Goku’라는 도구가 이 풍경을 완전히 바꾸려 하고 있습니다.

이게 왜 중요한가요?

보통 우리가 챗GPT와 같은 AI 서비스를 이용할 때는 내 질문이 인터넷을 타고 멀리 떨어진 회사의 서버로 전달됩니다. 편리하지만, 민감한 개인 정보를 입력하기에는 꺼림칙할 때가 있죠. 또한, AI 모델을 내 컴퓨터에서 직접 실행하려면 복잡한 코딩 지식이나 고사양의 설정이 필요한 경우가 많아 일반인에겐 높은 장벽이었습니다.

Goku는 이러한 과정을 웹 브라우저라는 우리에게 익숙한 환경으로 가져왔습니다. ShowHN: Goku – WASM (wllama)-powered LLM inference and model manager에 따르면, Goku는 웹 브라우저에서 직접 거대 언어 모델(LLM, Large Language Model - 방대한 양의 데이터를 학습하여 인간처럼 대화하는 AI)을 관리하고 실행할 수 있게 해줍니다. 즉, 별도의 거대한 서버 인프라 없이도 내 브라우저 안에서 인공지능이 돌아가는 환경을 구축한 것입니다. 이는 곧 AI를 더 프라이빗하고, 더 쉽게 다룰 수 있는 시대가 오고 있음을 의미합니다.

쉽게 이해하기: 브라우저 안의 미니 도서관

쉽게 비유하자면, Goku는 ‘브라우저 안의 미니 도서관 관리자’라고 볼 수 있습니다.

우리가 AI와 대화하는 것은 도서관(모델)에서 정보를 찾아오는 과정과 같습니다. 이전에는 이 도서관이 아주 먼 나라(클라우드 서버)에 있어서 매번 편지를 보내고 답장을 기다려야 했습니다. 반면, Goku는 이 도서관을 아주 작고 효율적인 압축 도구로 바꿔 내 컴퓨터의 웹 브라우저(로컬 환경) 안으로 통째로 옮겨놓은 것입니다. 이제 편지를 멀리 보낼 필요 없이, 내 책상 위에서 바로 정보를 꺼내 쓸 수 있게 된 셈이죠.

이 마법 같은 일이 가능한 핵심 기술은 WebAssembly(WASM)입니다. Goku – WASM (wllama)-powered LLM inference and model manager와 WebAssembly binding for llama.cpp를 살펴보면, Goku는 ‘wllama’라는 라이브러리를 사용합니다. wllama는 강력한 AI 연산 엔진인 llama.cpp를 웹 브라우저가 이해할 수 있는 언어로 변환(바인딩)해주는 도구입니다.

브라우저가 AI를 실행하려면 마치 언어 번역기가 필요한데, AI Community Day Bangkok 2025의 발표 자료에 따르면, 웹 환경에서 원활한 AI 추론(학습된 모델을 바탕으로 결과를 도출하는 과정)을 수행하기 위해서는 모델 런타임을 위한 특정 ‘WASM 바이너리 형식’을 명시적으로 참조하는 과정이 필수적입니다. Goku는 바로 이 복잡한 과정을 깔끔하게 관리해주어, 사용자가 기술적인 설정 고민 없이도 모델을 브라우저에서 실행할 수 있도록 돕습니다.

현재 상황

지금 당장 Goku를 사용하면 웹 브라우저 내에서 직접 AI 모델을 관리하고 로컬 추론을 시작할 수 있습니다. VueHN 2.0 등을 통해 개발자들 사이에서 주목받고 있는 이 도구는, 복잡한 인프라를 거치지 않고 브라우저라는 친숙한 환경에서 AI를 실행하고자 하는 시도의 결정체입니다.

하지만 주의할 점도 있습니다. 브라우저는 원래 AI 연산을 위해 설계된 환경이 아니기에, 메모리 제한이나 성능 측면에서 기존 서버 방식보다는 분명한 제약이 존재합니다. 그럼에도 불구하고 프라이버시를 중시하는 사용자나 가볍게 로컬 AI를 실험해보고 싶은 사람들에게는 매우 흥미로운 선택지가 될 것입니다.

앞으로 어떻게 될까?

웹 기술, 특히 WebAssembly의 발전은 더욱 가속화될 것입니다. WebAssembly 표준인 Wasm 3.0의 발표처럼 웹은 점점 더 고성능 작업이 가능한 플랫폼으로 진화하고 있습니다. 머지않아 우리는 웹 브라우저만 켜도 고성능 AI 모델이 개인화된 비서 역할을 척척 해내는 환경을 당연하게 받아들이게 될 것입니다. 지금 당장은 ‘Goku’와 같은 도구가 초기 단계의 실험처럼 보일지 모르지만, 이는 분명 AI의 대중화를 앞당기는 중요한 발걸음입니다.

MindTickleBytes의 AI 기자 시선

AI를 구름(클라우드) 위가 아닌 내 컴퓨터, 더 나아가 내 브라우저 안으로 가져오는 것은 개인정보 보호를 위한 필연적인 선택입니다. Goku가 보여주는 기술적 진보는 AI가 단순한 웹 서비스를 넘어 우리 손끝에서 직접 움직이는 ‘나만의 도구’로 자리 잡게 할 것입니다.

참고자료

1. ShowHN: Goku – WASM (wllama)-powered LLM inference and model manager

2. [VueHN 2.0

   ShowHN: Goku – WASM (wllama)-powered LLM](https://vue-hackernews-ssr-5cavbdjcta-ew.a.run.app/item/48920650)

3. AI Community Day Bangkok 2025 - In-Browser ML/LLM Inference
4. GitHub - ngxson/wllama: WebAssembly binding for llama.cpp
5. ShowHN: Goku – WASM (wllama)-powered LLM inference and model manager
6. Wasm 3.0 Completed - WebAssembly