AI가 쓴 700여 편의 수학 논문, 동료들이 직접 '채점'에 나섰다

상상해보세요. 여러분이 수십 년간 풀리지 않던 난제를 풀었다고 확신하는 논문을 수백 편 쏟아냈습니다. 그런데 그 결과물의 상당수가 사실은 정답이 아니거나 오류를 담고 있다면 어떨까요? 최근 인공지능(AI) 분야에서 이와 비슷한 흥미로운 사건이 일어났습니다. 인공지능이 작성한 방대한 수학 연구 결과들이 세상에 나왔고, 이를 전 세계의 인간 전문가들이 직접 검증하며 수정에 나선 것입니다.

이게 왜 중요한가요?

인공지능이 인간의 영역이라고 여겨졌던 고도의 수학 난제를 해결하는 것은 무척 고무적인 일입니다. 하지만 AI가 내놓은 답이 ‘정답처럼 보이지만 틀린’ 경우라면 상황이 달라집니다. 특히 과학 연구에서 AI의 논리적 오류는 치명적인 결과를 초래할 수 있습니다. 이번 사건은 AI가 내놓은 결과물이라고 해서 무조건 신뢰해서는 안 되며, 동료 학자들이 논문을 꼼꼼히 검토하는 ‘동료 평가(Peer Review)’ 과정이 왜 여전히 중요한지를 보여주는 대표적인 사례입니다.

쉽게 이해하기

OpenAI는 지난 2026년 10월 6일, 자사 내부의 첨단 인공지능 모델이 생성한 722편의 수학 연구 결과물을 오픈소스 공유 플랫폼인 GitHub(깃허브)에 공개했습니다 [Source 3, Source 10]. 이 프로젝트는 애초에 약 4,000개의 수학 난제를 AI에게 던져 해결책을 찾게 한 뒤, 그중 완성도가 높은 722편을 정리해 발표한 것이었습니다 [Source 13].

하지만 공개 직후, 마치 꼼꼼한 선생님이 숙제장을 검사하듯 전 세계의 수학자들과 개발자들이 이 논문들을 검토하기 시작했습니다. 그 결과, 단 하루 만에 부호 오류 등 기초적인 실수를 포함한 3편의 논문이 철회되는 사태가 벌어졌습니다 [Source 6, Source 10].

쉽게 비유하자면, AI는 엄청난 속도로 책 수백 권을 써내려가는 ‘천재 작가’와 같습니다. 하지만 꼼꼼함은 조금 부족하죠. 지금 전 세계의 수학자들은 이 작가가 쓴 책을 한 권씩 같이 읽으며 오타와 논리적 비약을 잡아내는 ‘편집자’ 역할을 자처하고 나선 것입니다. 이 작업이 바로 GitHub에서 활발히 운영 중인 ‘oai-math-revised’ 프로젝트입니다 [Source 1, Source 2]. 커뮤니티 사람들은 단순히 오류를 지적하는 데 그치지 않고, 더 정확한 수학적 증명을 위해 다 같이 머리를 맞대고 해결책을 제시하고 있습니다.

현재 상황

현재 총 719편의 논문이 검토 대상으로 남아있는 상태입니다. 그중 약 300편은 ‘린(Lean)’이라는 특수한 형식으로 작성되어 있습니다 [Source 10]. 린은 기계가 수학적 원리에 따라 증명의 논리적 결함이 없는지를 자동으로 판별할 수 있게 만든 언어입니다. 사람이 일일이 읽지 않아도 수학의 원리에 따라 기계가 오류를 잡아낼 수 있는 환경을 구축한 셈입니다. 현재 커뮤니티에서는 오류가 발견된 14편의 논문을 포함해 지속적으로 수정 작업이 진행 중입니다 [Source 10].

하지만 전문가들은 여전히 신중한 입장입니다. 한 전문가 그룹은 OpenAI의 수학 증명 방식이 아직 수학계에서 요구하는 엄격한 표준에는 도달하지 못했다는 평가를 내놓기도 했습니다 [Source 17].

앞으로 어떻게 될까?

앞으로 인공지능은 더 복잡하고 까다로운 수학 난제를 계속해서 던질 것입니다. 이번 사건을 통해 우리는 AI와 인간이 협업하는 새로운 미래를 엿보았습니다. AI는 방대한 계산과 논리 추론을 담당하고, 인간은 그 결과물이 수학적으로 완벽한지 검증하고 다듬는 ‘상호 보완적’ 관계가 중요해진 것입니다. 앞으로 우리가 주목해야 할 점은, AI가 커뮤니티의 피드백을 어떻게 학습하여 다음번에 더 정확한 결과를 내놓을지, 그리고 기계 검증 시스템인 린(Lean)이 향후 수학 연구의 필수적인 표준으로 자리 잡을 수 있을지입니다.

MindTickleBytes의 AI 기자 시선

AI가 내놓는 수학적 결과물은 거대한 가능성을 열어주지만, 그 결론에 도달하는 논리까지 100% 믿을 수는 없습니다. 이번 ‘oai-math-revised’ 프로젝트는 완벽하지 않은 AI를 우리가 어떻게 다루고 함께 성장시켜야 할지를 보여주는 중요한 이정표입니다. 기술의 발전만큼 중요한 것은 그 기술이 내놓은 답을 의심하고 검증하는 인간의 지성이라는 점을 잊지 마세요.

참고자료

1. GitHub - mathcommunity/oai-math-revised: Suggested revisions
2. math/lean/OAI at main · openai/math · GitHub
3. First look at mathematics manuscripts from an internal frontier model at OpenAI
4. OpenAI withdraws three preprints a day after releasing 722 manuscripts
5. OpenAIMathRelease: The Machine Published While You… - YouTube

6. [OpenAI claims to have solved maths problem that stumped humans for decades

   The Guardian](https://www.theguardian.com/science/2026/sep/08/openai-claims-to-have-solved-maths-problem-that-stumped-humans-for-decades)

7. OpenAIMathManuscripts: 722 AI Papers (2026)

8. [OpenAI’s math solutions aren’t meeting the fields standards yet

   TechCrunch](https://techcrunch.com/2026/10/08/openais-math-solutions-arent-meeting-the-fields-standards-yet/)