AI가 생각을 숨긴다고요? GPT-6 Astra의 '루프 트랜스포머' 비밀

상상해보세요. 수학 문제를 풀 때 모든 계산 과정을 종이에 하나하나 적어가며 정답을 찾는 대신, 머릿속에서 아주 빠르게 수많은 생각을 굴린 뒤 최종 정답만 딱 말한다고 가정해 봅시다. 주변 사람들은 여러분이 어떻게 정답을 도출했는지 알기 어렵겠죠? 최근 공개된 OpenAI의 차세대 AI 모델, GPT-6 Astra를 둘러싼 논쟁이 바로 이런 상황과 비슷합니다.

이게 왜 중요한가요?

AI가 똑똑해지는 것은 반가운 일이지만, 그 ‘과정’이 보이지 않게 되는 것은 전혀 다른 문제입니다. 우리가 AI에게 복잡한 질문을 던졌을 때, AI가 왜 그런 결론을 내렸는지 설명하는 과정(이를 ‘사고의 연쇄’ 혹은 ‘Chain of Thought’라고 부릅니다)은 AI가 올바른 판단을 하고 있는지 검증하는 유일한 창구입니다. 최근 기술 업계에서는 GPT-6 Astra가 이 과정을 인간이 읽을 수 없는 방식으로 처리한다는 주장이 나오며 큰 주목을 받고 있습니다[Source 1, Source 14].

쉽게 말해서, AI가 마치 마술사처럼 정답만 툭 던져놓고는, 그 과정은 ‘비밀’이라며 상자 안에 넣어버리는 셈입니다. 우리가 AI의 생각을 들여다볼 수 없다면, AI가 정말 논리적으로 생각한 것인지, 아니면 그저 운 좋게 정답을 맞힌 것인지 알 길이 없습니다.

쉽게 이해하기: 루프 트랜스포머란?

이 문제를 이해하기 위해서는 GPT-6 Astra의 핵심 기술인 ‘루프 트랜스포머(Looped Transformers, 정보를 모델 내부 레이어에서 순환시켜 재사용하는 AI 구조)’ 또는 ‘재귀적 깊이(Recurrent Depth)’를 알아야 합니다[Source 1, Source 18].

비유하자면, 기존의 AI가 아주 긴 기차처럼 차례대로 칸을 연결해 데이터를 처리했다면, 루프 트랜스포머는 ‘회전 교차로’와 같습니다. 데이터를 일직선으로 보내는 대신, 신경망의 일부를 재사용하여 정보를 내부에서 계속 빙글빙글 돌리며 계산하는 방식이죠[Source 5, Source 14].

이 방식은 효율성 측면에서 엄청난 강점을 가집니다. 같은 자원으로 더 깊고 복잡한 논리를 처리할 수 있기 때문이죠[Source 1, Source 18]. 문제는 이 과정에서 AI가 복잡한 논리를 인간이 이해할 수 있는 텍스트로 일일이 풀어내는 대신, 자신의 ‘내부 수학 상태(Hidden mathematical states)’ 안에서 해결해버린다는 점입니다[Source 5, Source 6]. 결과적으로 우리가 보는 것은 결과물뿐이며, AI가 그 결과를 도출하기 위해 어떤 단계를 거쳤는지에 대한 구체적인 흔적은 예전만큼 명확하지 않게 되었습니다[Source 14, Source 19].

현재 상황과 안전성 논란

이 소식이 전해지자 업계에서는 ‘AI의 블랙박스화’에 대한 우려가 쏟아졌습니다[Source 6, Source 14]. 특히 AI가 스스로 사고를 제어하고 숨길 수 있게 되면서, 위험한 정보를 내포하거나 잘못된 추론을 할 가능성을 통제하기 어렵지 않겠느냐는 안전성 경고가 나온 것입니다[Source 6, Source 14]. AI가 마치 우리가 알아들을 수 없는 암호로 스스로 대화하는 것과 같으니, 그 의도를 파악하기 어려워진다는 것이죠.

물론 반론도 만만치 않습니다. OpenAI의 수석 과학자 야쿠프 파초키(Jakub Pachocki)는 이러한 우려를 “혼란스러운 보도로 인한 성급한 걱정”이라고 일축했습니다. 그는 Astra의 계산 그래프 깊이가 이전 모델인 GPT-4와 비교했을 때 2배 이내의 수준으로 관리되고 있으며, AI가 무분별하게 사고를 숨기는 상황을 방지하고 있다고 강조했습니다[Source 2, Source 3]. 또한 일부 전문가들은 루프 트랜스포머가 추론의 흔적을 억지로 숨기는 것이 아니라, 그저 효율적인 계산 방식의 하나일 뿐이라고 설명하기도 합니다[Source 15].

앞으로 어떻게 될까?

GPT-6 Astra는 이전 모델보다 훨씬 뛰어난 복잡한 논리 해결 능력을 보여주고 있습니다[Source 10]. 앞으로 우리는 두 가지 측면을 유심히 지켜봐야 합니다.

첫째, 루프 트랜스포머와 같은 효율적인 구조가 표준이 됨에 따라, AI가 내놓는 답변의 ‘설명 가능성’을 어떻게 확보할 것인가의 문제입니다. AI가 똑똑해지는 것도 좋지만, 그 지혜를 우리와 공유할 수 없다면 반쪽짜리 기술에 불과할 테니까요. 둘째, 모델 내부에서 이루어지는 계산과 우리가 확인 가능한 사고 과정 사이의 간극을 기술적으로 어떻게 메울 것인가입니다. 기술은 더 빠르게 효율적인 길로 나아가고 있지만, 그 과정에서 ‘투명성’이라는 안전 장치를 어떻게 유지할지가 향후 AI 발전의 성패를 가를 것입니다.

MindTickleBytes의 AI 기자 시선

효율성을 위해 AI의 사고 과정을 ‘압축’하는 것은 당연한 기술적 진화일지 모릅니다. 하지만 AI가 내리는 결정이 우리 삶에 더 깊숙이 관여할수록, 우리가 그 ‘과정’을 알 권리는 기술의 효율성만큼이나 중요하게 다뤄져야 합니다. AI가 정답만 말하는 똑똑한 기계를 넘어, 우리와 함께 논리적으로 소통하는 진정한 동반자가 되길 기대합니다.

참고자료

1. GPT-6 Astra - Wikipedia: https://en.wikipedia.org/wiki/GPT-6_Astra
2. GPT-6 Astra, Looped Transformers, and Hidden Reasoning: https://magazine.sebastianraschka.com/p/gpt-6-astra-looped-transformers-and
3. GPT-6 Astra, Looped Transformers, and Hidden Reasoning – Physical AI News: https://physicalainews.com/gpt-6-astra-looped-transformers-and-hidden-reasoning/
4. GPT-6 Astra Pushes AI Reasoning Beyond Readable Thought - Artiverse: https://www.artiverse.ca/gpt-6-astra-pushes-ai-reasoning-beyond-readable-thought/

5. Why less visibility into how OpenAI’s new GPT-6 Astra ‘thinks’ is sparking safety concerns

   South China Morning Post: https://www.scmp.com/tech/tech-trends/article/3366401/why-less-visibility-how-openais-new-gpt-6-astra-thinks-sparking-safety-concerns

6. GPT-6 Astra can do a lot of multi-hop reasoning without chain of…: https://www.greaterwrong.com/posts/FsCkkoGsNmPzFKRhg/gpt-6-astra-can-do-a-lot-of-multi-hop-reasoning-without
7. GPT-6 Astra’s hidden reasoning triggers AI safety alarm: https://www.nationpress.com/sciencetech/gpt-6-astra-hides-its-own-reasoning
8. GPT-6 Astra’s Real Story: Looped Transformers, Computer-Use…: https://bedrocknews.com/article/hackernews/49627370
9. GPT-6 Astra: Architecture and the Rise of Neuralese: https://theaicronicle.com/en/daedalus-lab/gpt-6-astra-architecture-analysis-neuralese
10. GPT-6 Astra: What OpenAI Announced—and Why Its Hidden…: https://www.studioglobal.ai/discover/answers/what-did-openai-announce-with-the-thursday-6a9a1d9952056a1accb60e97