AI가 그림을 그리듯 글을 쓴다면? '연속 확산' 언어 모델의 도전

상상해보세요. 아침에 일어나서 AI 비서에게 “오늘 회의 자료를 요약해서 이메일로 보내줘”라고 말합니다. 이전의 AI가 정해진 확률에 따라 단어를 하나씩 이어 붙였다면, 새로운 방식의 AI는 마치 화가가 빈 캔버스에 점점 더 선명한 그림을 완성하듯, 흐릿한 아이디어에서 시작해 문장을 점진적으로 다듬어 나갑니다. 이것이 바로 최근 AI 연구계의 뜨거운 감자인 ‘연속 확산(Continuous Diffusion) 언어 모델’이 꿈꾸는 미래입니다.

왜 이 기술이 중요한가요?

현재 우리가 사용하는 대부분의 대규모 언어 모델(LLM, 대량의 텍스트 데이터를 학습해 인간처럼 글을 쓰는 인공지능)은 정해진 순서대로 단어를 하나씩 생성하는 ‘자기회귀(autoregressive)’ 방식을 사용합니다. 이는 마치 한 치 앞만 보고 달리는 것과 같아서, 문장 전체의 큰 그림을 한 번에 조망하기 어렵다는 한계가 있죠.

반면, 이미지와 비디오 생성 분야를 평정한 ‘확산 모델’은 데이터를 점진적으로 정교화하는 방식으로 매우 뛰어난 결과물을 만들어냅니다. 출처 4, 출처 9 만약 이 방식을 텍스트에도 성공적으로 적용한다면, 지금보다 훨씬 더 창의적이고 논리적인 구조를 갖춘 글쓰기가 가능해질 것입니다. 출처 16

쉽게 말해서: 텍스트는 왜 이미지와 다를까요?

확산 모델은 원래 ‘노이즈(noise, 데이터가 없는 무작위 상태)’로 가득 찬 공간에서 점차 이를 걷어내며 선명한 이미지를 찾아가는 과정입니다. 사진의 밝기나 색상 정보인 ‘픽셀값’은 연속적인 숫자로 이루어져 있어 이 과정이 아주 자연스럽게 연결됩니다. 출처 11

하지만 텍스트는 완전히 다른 세상입니다. 비유하면, 이미지 세상은 부드러운 언덕과 같지만, 텍스트 세상은 단절된 계단과 같습니다. ‘사과’라는 단어와 ‘배’라는 단어 사이에는 중간값이 없죠. 텍스트는 ‘개별적인 조각(discrete tokens)’들로 구성되어 있어, 이미지처럼 부드럽게 노이즈를 걷어내며 글을 만들기가 매우 까다롭습니다. 출처 11

이를 해결하기 위해 연구자들은 텍스트를 마치 연속적인 공간에 존재하는 좌표처럼 표현하는 ‘임베딩(embedding, 단어의 의미를 수학적 벡터 공간에 배치하는 기술)’을 활용합니다. 출처 12 최근 등장한 ‘리만 확산 언어 모델(RDLM)’ 같은 연구들은 단어들이 분포하는 방식을 ‘통계적 매니폴드(statistical manifold, 데이터가 놓인 복잡한 기하학적 공간)’라는 수학적 지도로 그려냅니다. 마치 거대한 구체(hypersphere) 위를 굴러다니는 점처럼 단어들을 처리함으로써, 텍스트를 연속적인 방식으로 다루는 길을 열어가고 있습니다. 출처 3, 출처 14

어디까지 왔을까요?

사실 2022년 ‘Diffusion-LM’과 같은 시도가 나타나면서 텍스트 확산 모델에 대한 연구는 이미 시작되었습니다. 출처 1 안타깝게도 지금까지의 연속 확산 방식은 기존의 단어 단위로 글을 짓는 모델들에 비해 성능이 다소 떨어진다는 평가를 받아왔습니다. 출처 2, 출처 15 수학적 기하학을 활용한 새로운 모델들이 속속 등장하고 있지만, 여전히 ‘언어의 불연속성’과 ‘연속적인 확산 과정’ 사이의 다리를 놓는 것은 인공지능 연구의 최전선에서 진행 중인 풀기 어려운 난제입니다. 출처 6

무엇이 기대되나요?

앞으로는 단순히 글을 잘 쓰는 것을 넘어, AI가 복잡한 생각을 단계별로 추론하는 ‘잠재적 추론자(latent reasoner)’로서 확산 모델을 활용할 가능성이 큽니다. 출처 16, 출처 17 텍스트와 이미지를 동시에 처리하는 멀티모달(multimodal) 시대에, 연속 확산 방식은 텍스트와 영상, 이미지 간의 경계를 허무는 핵심 기술이 될 것입니다. 여러분이 다음에 보게 될 AI 비서는 지금보다 훨씬 더 깊게 고민하고, 자신의 생각을 매끄럽게 펼쳐내는 능력을 갖추게 될 것입니다.

MindTickleBytes의 AI 기자 시선

확산 모델이 이미지의 픽셀을 정렬하듯 텍스트의 의미를 정렬할 수 있게 된다면, 우리는 단순한 문장 생성을 넘어 AI의 사고 과정을 ‘수렴하는 과정’으로 보게 될 것입니다. 이는 AI와 인간의 소통이 한 단계 더 정교해지는 중요한 변곡점이 될 것입니다.

참고자료

1. Continuous diffusion language models – Sander Dieleman

2. [LangFlow: Continuous Diffusion Rivals Discrete Models in…

   LinkedIn](https://www.linkedin.com/posts/hangke-sui_langflow-continuous-diffusion-rivals-discrete-activity-7450571557388828674-Lv6p)

3. Continuous Diffusion Model for Language Modeling [Quick Review]
4. Advances in Continuous Diffusion Language Models - YouTube
5. Continuous Diffusion for Discrete Text
6. Continuous Diffusion Model for Language Modeling - AI for…
7. Diffusion Language Models: How a New AI Paradigm Is Challenging…
8. Simple Diffusion Language Models - YouTube
9. ELF: 임베딩 공간에 머무는 연속 확산 언어 모델(Continuous Diffusion…
10. Think In Diffusion: Continuous Latent Diffusion Language Model
11. Block Diffusion Language Models: Combining autoregression and…
12. [Revue de papier] Diffusion of Thoughts: Chain-of-Thought Reasoning in Diffusion Language Models
13. Models — Google DeepMind
14. [Paper Note] Continuous Diffusion Model for Language Modeling

15. [Continuous Diffusion Model for Language Modeling

    OpenReview](https://openreview.net/forum?id=VGv5y60sXC)

16. Diffusion Reasoners: Iterative Inference Models
17. Coevolutionary Continuous Discrete Diffusion… - Microsoft Research