역전파(Backpropagation) 없이도 AI를 똑똑하게 만들 수 있을까? '더스트(Dust)'의 등장

우리가 매일 사용하는 AI 챗봇이 어떻게 그렇게 똑똑하게 말을 배우는지 궁금했던 적 있으신가요? 지금까지 AI가 학습하는 가장 대표적인 방법은 ‘역전파(Backpropagation, 오류를 뒤로 전달하여 학습하는 방식)’였습니다. 마치 시험을 치른 학생이 틀린 문제를 뒤에서부터 앞으로 거슬러 올라가며 어디서 실수했는지 확인하고 수정하는 과정과 비슷하죠. 하지만 이 방식은 AI 모델이 거대해질수록 엄청난 계산 능력이 필요하고, 학습 과정이 까다롭다는 고질적인 문제가 있었습니다.

그런데 최근, 이 역전파를 아예 사용하지 않고도 AI를 학습시킬 수 있다는 연구 결과가 나와 주목받고 있습니다. 바로 ‘더스트(Dust)’라는 새로운 학습 방법입니다.

이게 왜 중요한가요?

AI 기술이 발전할수록 우리는 더 크고 복잡한 모델을 원하게 됩니다. 하지만 역전파 방식은 모델이 커질수록 ‘계산 비용’이라는 거대한 벽에 부딪히게 됩니다. 역전파는 오랫동안 딥러닝 학습의 표준이었지만, 높은 계산 요구량, 가중치 전송 문제, 학습이 멈추거나 엉뚱한 방향으로 튀는 문제 등 한계가 지적되어 왔습니다.

만약 역전파라는 복잡한 다리 없이도 AI가 스스로 학습할 수 있다면 어떨까요? AI를 학습시키는 데 드는 시간과 전기료가 줄어들고, 더 효율적인 인공지능을 더 빨리 세상에 내놓을 수 있게 됩니다. 더스트는 단순히 새로운 기술을 넘어, AI 학습의 ‘병목 현상’을 해결할 수 있는 열쇠가 될지도 모릅니다.

이게 어떤 방식인가요?

역전파를 ‘교과서를 뒤에서부터 읽으며 틀린 과정을 수정하는 정밀한 과외 수업’이라고 한다면, 더스트는 어떤 방식일까요?

쉽게 말해 ‘직관적인 실험’과 같습니다. 복잡한 기계를 조립해야 하는데, 설명서를 순서대로 따라가지 않고 무작위로 부품을 바꿔 끼워보며 기계가 더 잘 작동하는지 ‘실제 결과물’만 확인하는 것이죠. 이를 전문 용어로 ‘영차 최적화(Zeroth-order optimization)’라고 합니다. 더스트는 트랜스포머 AI를 사전 학습할 때 기존의 역전파 방식을 사용하는 대신, 순방향 평가(Forward evaluation)와 확률적 경사 하강법(SGD, 데이터를 기반으로 조금씩 오차를 줄여가는 방식)을 사용하여 이 문제를 해결합니다.

전체 과정을 다 뒤집어보는 대신, 결과를 보고 직접 조금씩 수정해 나가는 방식을 택한 것입니다. 더스트는 이러한 방식을 통해 충분한 계산 규모가 주어지면 기존의 역전파 방식과 비슷하거나 때로는 이를 뛰어넘는 성능을 보입니다.

현재 상황

더스트는 단순한 아이디어를 넘어 이미 실제 실험을 통해 가능성을 증명하고 있습니다. 특히 더스트는 트랜스포머 모델을 사전 학습하는 데 사용된 최초의 영차 최적화 방식이라는 점에서 큰 의의가 있습니다.

더욱 놀라운 점은 효율성입니다. 연구 결과에 따르면 더스트는 기존의 비역전파 학습 방식인 EGGROLL보다 약 1,000배에서 10,000배 더 계산 효율적인 것으로 나타났습니다. 물론 아직은 개발 초기 단계이며, 방대한 양의 연산을 통해 그 성능을 입증해 나가는 과정에 있습니다.

앞으로 어떻게 될까?

더스트의 등장은 우리가 AI를 만드는 방식을 바꿀 잠재력을 가지고 있습니다. 더스트와 같은 연구들은 역전파가 가진 태생적 한계인 기울기 소실(학습 신호가 뒤로 갈수록 사라지는 현상)이나 폭주 문제를 우회할 수 있는 새로운 길을 제시합니다.

앞으로 AI가 더 효율적으로 학습하게 된다면, 거대 기업의 전유물이었던 고성능 AI 모델 학습이 일반 연구자들에게 더 가까워질 수도 있습니다. 다만, 역전파가 수십 년간 쌓아온 정교함을 더스트가 완전히 대체할 수 있을지는 더 많은 데이터와 대규모 실험이 확인해 주어야 할 숙제입니다. 분명한 것은, AI 학습의 세계가 역전파 하나에 의존하던 시대를 지나, 더 다양하고 효율적인 방식으로 진화하고 있다는 사실입니다.

AI의 한마디

더스트는 기존의 학습 패러다임을 뒤흔들 수 있는 대담한 시도입니다. 역전파라는 거대한 틀에서 벗어나 효율성을 극대화하려는 노력이 성공한다면, 인공지능 발전의 속도는 우리가 상상하는 것보다 훨씬 더 빨라질 것입니다. 물론 아직 갈 길이 멀지만, AI가 스스로를 가르치는 방식이 더 가볍고 똑똑해지고 있다는 점은 분명합니다.

참고자료

1. A claimed way to pretrain transformers without backpropagation
2. dust/README.md at main · qlabs-eng/dust · GitHub
3. Navigating beyond backpropagation: on alternative training … - Springer
4. Pretraining with Random Noise for Fast and Robust Learning - arXiv:2405.16731
5. Samip on X: “Backprop has been the only credit assignment …”