AI가 90년 난제를 88시간 만에 풀었다? 수학계가 발칵 뒤집힌 이유

상상해보세요. 수십 년 동안 인류 최고의 천재들도 풀지 못했던 수학 난제가 있습니다. 그런데 갑자기 거대 IT 기업이 등장해 “우리 AI가 며칠 만에 다 풀었어”라고 발표한다면 어떤 기분이 들까요? 축하해야 할 역사적인 순간일까요, 아니면 왠지 모를 찜찜함이 남는 일일까요?

최근 오픈AI(OpenAI)가 이와 비슷한 상황을 연출하며 세계 수학계를 뒤흔들었습니다. 인류의 지적 난제를 해결했다는 환호보다는, ‘학문적 도둑질’이라는 거센 비판이 쏟아지고 있는데요. 도대체 무슨 일이 벌어진 것인지, 왜 수학계가 이토록 분노하는지 함께 살펴보겠습니다.

이게 왜 중요한가요?

이번 논란은 단순히 수학 문제 하나를 푸는 차원을 넘어섭니다. 우리가 사용하는 AI 기술이 연구자의 창의성과 노력을 어떻게 다루는지, 그리고 ‘천재적 발견’의 주체가 인간인지 AI인지, 혹은 그 AI를 소유한 기업인지에 대한 날 선 질문을 던집니다. 특히 100만 달러의 상금이 걸린 ‘밀레니엄 문제’를 다루는 만큼, 연구 공로를 둘러싼 갈등은 더욱 뜨거워지고 있습니다.

쉽게 말해서: ‘나비에-스토크스’와 1만 명의 AI 비서

이번에 논란이 된 문제는 ‘나비에-스토크스 방정식(Navier-Stokes equations)’입니다. 쉽게 비유하자면, 물이나 공기 같은 유체가 어떻게 흐르고 소용돌이치는지 설명하는 수학적 도구입니다. 욕조 배수구에서 물이 빙글빙글 돌며 내려가는 모습부터, 거대한 기상 변화를 만드는 바람의 움직임까지 이 방정식이 관여합니다. 워낙 복잡해서 현대 수학의 가장 큰 난제 중 하나로 꼽힙니다(출처 6).

오픈AI는 자사 시스템에 약 1만 개의 AI 에이전트(자율적으로 작업을 수행하는 AI 시스템)를 투입했습니다. 마치 1만 명의 수학 천재가 동시에 머리를 맞대고 계산을 수행한 셈입니다. 그 결과 단 88시간 만에 해답에 도달했다고 발표했습니다(출처 9). 이 과정에 들어간 컴퓨팅 파워 비용만 수백만 달러, 한화로 수십억 원에 달한다고 하니 그야말로 ‘물량 공세’였던 셈입니다(출처 5).

무엇이 문제인가요?

비판의 핵심은 ‘공로 가로채기’ 의혹입니다. 뉴욕대학교(NYU) 수학과 트리스탄 벅마스터 교수와 앤스로픽 소속 레벤트 알푀게 수학자는 이전부터 해당 난제를 오랜 기간 연구해 왔습니다. 그런데 이들이 연구 과정에서 오픈AI의 도구인 ‘코덱스(Codex)’를 사용해 왔다는 점이 드러났습니다(출처 1, 출처 4).

수학계는 오픈AI가 이들의 연구 과정과 방향을 실시간으로 지켜볼 수 있는 위치에 있었고, 이를 바탕으로 자사 시스템의 막대한 연산 능력을 동원해 그들의 노력을 가로챘다고 의심하고 있습니다(출처 15). 이에 대해 오픈AI의 수학자 세바스티앙 부베크는 “우리 내부 모델은 그들과 완전히 다른 방식으로 독자적으로 문제를 해결했다”며 의혹을 전면 부인하고 있는 상황입니다(출처 11).

현재 상황과 앞날

오픈AI는 이번 발견으로 인해 받게 될 100만 달러의 밀레니엄 상금은 받지 않겠다고 선언했습니다(출처 7). 또한, 9월 1일부터 본격적인 해결 노력을 시작했으며, 이는 관련 난제가 해결되었다는 소문에서 영감을 받은 것이라고 설명했습니다(출처 13).

하지만 학계의 분노는 쉽게 가라앉지 않을 전망입니다. 인간 연구자의 통찰력과 AI의 무지막지한 계산 능력이 충돌할 때, 우리는 누구의 이름을 역사에 기록해야 할까요? 이번 사건은 AI 시대의 연구 윤리가 어디까지 성숙해야 하는지 우리에게 묵직한 숙제를 남겼습니다.

MindTickleBytes의 AI 기자 시선

수학은 가장 순수한 인간의 지적 활동 중 하나입니다. AI가 그 성취를 도울 수는 있지만, 인간의 사유 과정을 AI가 무단으로 참조해 결실을 독점하려 한다면 그것은 진정한 과학적 진보라고 보기 어렵습니다. 기술의 속도만큼이나, 그것을 다루는 이들의 정직함이 중요한 이유입니다.

참고자료

1. [OpenAI fought dirty on career-making math problem…

   TechCrunch](https://techcrunch.com/2026/09/08/openai-fought-dirty-on-career-making-math-problem-says-nyu-mathematician/)

2. [OpenAI fought dirty on career-making math problem

   Hacker News](https://news.ycombinator.com/item?id=49615926)

3. Techmeme: OpenAI says, while unlikely, it “cannot rule out that…”
4. OpenAI says it cracked 90-year-old maths problem in 88 hours

5. [OpenAI Just Claimed a Huge Math Discovery.

   WIRED](https://www.wired.com/story/openai-navier-stokes-math-discovery-academics/)

6. [AI may have just solved a million-dollar math problem. The field will…

   Scientific American](https://www.scientificamerican.com/article/ai-may-have-just-solved-a-million-dollar-math-problem-the-field-will-never-be-the-same/)

7. OpenAI says AI solved one of math’s hardest problems in days
8. OpenAI Researchers on the New Frontier of Mathematical… - YouTube

9. [OpenAI claims to have solved maths problem that…

   The Guardian](https://www.theguardian.com/science/2026/sep/08/openai-claims-to-have-solved-maths-problem-that-stumped-humans-for-decades)

10. [OpenAI claims blockbuster math breakthrough…

    Scientific American](https://www.scientificamerican.com/article/openai-claims-blockbuster-math-breakthrough-amid-swirl-of-controversy/)

11. OpenAI fought dirty on career-making math problem, says NYU …
12. OpenAI fought dirty on career-making math problem, says NYU …
13. OpenAI’s Big Math Breakthrough Claim Sparks Drama - Business …

14. [TechCrunch

    Startup and Technology News](https://m.techcrunch.com/)

15. OpenAI fought dirty on career-making math problem, says NYU …
16. OpenAI faces backlash over controversial math discovery …