AI가 단번에 정답을 고르는 비결: GLM-5.3-Flash로 구현한 결정 모델

상상해보세요. 당신이 AI 비서에게 “오늘 점심 메뉴로 김치찌개, 비빔밥, 돈가스 중 뭐가 나을까?”라고 물었습니다. 이전까지의 AI는 김치찌개의 재료부터 비빔밥의 영양소까지 늘어놓으며 장황한 설명을 덧붙이느라 시간을 썼을 겁니다. 하지만 이제는 AI가 마치 퀴즈를 풀듯 정답과 그 정답을 선택할 확률을 순식간에 계산해 내는 시대가 오고 있습니다.

최근 연구자들은 ‘GLM-5.3-Flash’라는 최신 AI 모델을 활용해, 별도의 복잡한 학습 과정 없이도 정확한 의사결정을 내리는 ‘Jev’ 스타일의 결정 모델을 구현하는 데 성공했습니다 출처 1.

이게 왜 중요한가요?

일상에서 우리가 내리는 수많은 선택은 때로 AI의 도움이 필요합니다. 하지만 기업 입장에서 매번 AI에게 긴 문장을 생성하게 하는 것은 비용과 시간 측면에서 비효율적일 수 있습니다. 이번에 소개된 기법은 AI가 사람이 선택지를 고르는 것처럼 빠르고 명확하게, 심지어 선택의 근거가 되는 확률까지 계산해서 결정을 내리게 해줍니다.

특히 GLM-5.3-Flash는 GLM-5 시리즈 중 처음으로 시각 정보를 직접 처리할 수 있는 네이티브 멀티모달(native multimodal, 텍스트·이미지·오디오 등 다양한 데이터를 동시에 이해하고 처리하는 방식) 모델입니다 출처 9, 출처 14. 즉, 텍스트 질문뿐만 아니라 현장의 상황을 담은 사진을 보고도 “이 상황에서 가장 좋은 선택은 무엇인가?”라는 질문에 빠르게 답할 수 있게 된 것이죠 출처 2.

쉽게 이해하기: 사서의 비유

이 기법의 원리를 비유로 설명해 보겠습니다. 트랜스포머(Transformer, 문장 내 단어들의 관계를 파악하는 AI의 핵심 설계 구조) 모델을 ‘거대한 도서관에서 답을 찾는 사서’라고 해봅시다.

기존 방식은 사서에게 책을 가져와서 요약하고 의견까지 달아달라고 요청하는 것과 같습니다. 시간이 오래 걸리고 대화가 길어지죠. 새로운 방식은 훨씬 직관적입니다.

1. 번호 매기기: 질문에 대해 선택지 A, B, C를 명확한 번호로 지정합니다.
2. 미리 채우기: 사서(AI)에게 답안지의 첫 글자만 미리 써두게 합니다.
3. 확률 읽기: 사서가 다음에 쓸 단어의 확률 분포(log probabilities, 모델이 특정 단어를 선택할 가능성을 수치화한 값)를 살짝 훔쳐봅니다.

이렇게 하면 AI가 주절주절 긴 문장을 쓰지 않아도, “A를 고를 확률이 90%야”라는 결론을 단번에 얻을 수 있습니다 출처 2. 이 방법의 가장 큰 장점은 모델을 처음부터 다시 가르치거나 추가 학습(fine-tuning)할 필요가 전혀 없다는 점입니다 출처 3, 출처 5.

현재 상황

이미 실전에서도 성과를 내고 있습니다. GLM-5.3-Flash를 활용한 결정 모델은 기존 전문적인 의사결정 AI인 ‘Jev’와 28개의 텍스트 데이터셋에서 거의 대등한 정확도를 보여주었습니다 출처 2, 출처 7.

속도 또한 놀랍습니다. 평균적으로 의사결정 하나를 내리는 데 약 156ms(0.15초)밖에 걸리지 않으며, 비용 역시 1,000건의 결정에 0.06유로 수준으로 매우 저렴합니다 출처 4, 출처 7. 물론 선택지의 개수가 너무 많아지면 정확도가 조금 떨어진다는 한계가 있지만, 일반적인 상황에서는 충분히 강력한 성능을 발휘합니다 출처 10.

앞으로 어떻게 될까?

앞으로 AI는 더 똑똑하고 효율적인 ‘의사결정 파트너’가 될 것입니다. 단순히 답을 내놓는 수준을 넘어, 자신이 내린 답이 얼마나 확신에 찬 것인지(confidence values, AI가 자신의 답변을 얼마나 신뢰하는지를 나타내는 지표)까지 알려주기 때문에 사용자는 더 믿고 선택할 수 있게 됩니다 출처 10.

우리는 곧 쇼핑 앱에서 AI가 “이 옷이 당신의 평소 스타일과 어울릴 확률은 95%입니다”라고 즉각 답해주는 경험을 하게 될지도 모릅니다. AI의 ‘지능’을 실시간 서비스의 ‘효율’로 바꾸는 이런 시도들은 앞으로 더 많은 곳에서 일어날 것입니다.

MindTickleBytes의 AI 기자 시선: 기술의 발전은 꼭 더 크고 무거운 모델을 만드는 방향만은 아닙니다. 이미 존재하는 똑똑한 모델을 얼마나 ‘현명하게’ 활용하느냐가 진짜 실력인 시대가 왔습니다.

참고자료

1. Turn GLM-5.3-Flash into a Jev-like System One model

2. [GLM-5.3-Flash Matches Jev’s Decision · Hacker News

   Zeli](https://zeli.app/story/49857656)

3. Turning GLM-5.3-Flash into a Jev-like decision model
4. Turn GLM-5.3-Flash into a Jev-like System One model - LinkedIn
5. GitHub - nokia-applied-research/AnyJev: Turn any LLM into a Jev-style …
6. GitHub - zhengxuyu/litjev: Turn any off-the-shelf LLM into a Jev -like …

7. [Turn GLM-5.3-Flash into a Jev-like System One model

   Lorenz Tabertshofer](https://de.linkedin.com/posts/lorenz-tabertshofer_turn-glm-53-flash-into-a-jev-like-system-activity-7508887669553262592-U_Dg)

8. GLM5.3Flash— ВАЙБКОДИНГ ЗА КОПЕЙКИ! - YouTube
9. zai-org/GLM-5.3-Flash· Hugging Face
10. GLM-5.3-FlashMatchesJev’sDecisionAccuracy in a Single Forward…
11. Можно ли запуститьGLM-5.3локально: честный расчёт по железу
12. Z.ai - Advanced AI Chatbot & Agent powered byGLM-5.3-Flash
13. GLM5— Next-Gen FrontierModel
14. GLM-5.3-Flash: Technical Deep Dive into Z.ai 320B-A18B Hybrid …

15. [Jev Is Turning Into an Entire Ecosystem

    Swati Gupta …](https://x.com/hrswatigupta/article/2102741642050666755)

16. GLM-5.3 - openlm.ai