AI가 저작물을 몰래 베꼈을까? OpenAI의 '데이터 검색 불가' 주장이 수상한 이유

상상해보세요. 여러분이 쓴 소중한 기사가 AI 학습에 무단으로 사용되었습니다. 억울한 마음에 그 AI에게 “내가 쓴 기사를 베껴 쓴 적 있니?”라고 묻고 싶어졌죠. 그런데 AI 회사가 “우리 시스템은 어떤 데이터를 썼는지, 그 데이터를 통해 무엇을 출력했는지 검색하는 기능 자체가 아예 없습니다”라고 답한다면 여러분은 어떤 생각이 드실까요?

최근 인공지능(AI) 업계의 거물인 OpenAI가 바로 이런 의혹에 휘말렸습니다. 뉴욕타임스(NYT)와 뉴욕 데일리 뉴스 등 주요 언론사가 OpenAI를 상대로 ‘증거 은폐’ 의혹을 제기하며 법원에 제재를 요청한 것입니다 [Source 1]. 단순히 기술적인 문제로 보였던 이 논란이 왜 법정 다툼으로 번졌는지, 쉬운 비유를 통해 풀어보겠습니다.

이게 왜 중요한가요?

이 문제는 단순히 ‘누가 거짓말을 했나’를 가리는 싸움이 아닙니다. AI가 우리 일상에 깊숙이 들어온 지금, AI가 학습한 데이터를 얼마나 투명하게 관리하고 책임지느냐에 대한 근본적인 신뢰의 문제입니다.

만약 AI 회사가 기술적으로 검색이 불가능하다는 이유로 저작권 침해 증거를 감출 수 있다면, 창작자들은 자신의 권리를 보호받기가 매우 어려워집니다. 이번 소송의 결과에 따라 앞으로 AI를 개발할 때 데이터를 다루는 기준이 완전히 달라질 수 있기 때문에 전 세계의 이목이 쏠리고 있습니다.

쉽게 이해하기: 도서관의 ‘출입 대장’

이 상황을 커다란 도서관에 비유해 볼까요?

• 학습 데이터: 도서관에 있는 수백만 권의 책입니다. AI는 이 책들을 읽고 공부하며 지식을 쌓습니다.
• 로그 데이터: 이용객들이 어떤 책을 주로 찾고, 어떤 내용을 베껴갔는지 기록된 ‘출입 대장’입니다.

이번 사건의 핵심은 이렇습니다. 저작권자들은 도서관 측인 OpenAI에 “우리 기사를 얼마나 베껴갔는지 확인하고 싶으니 출입 대장을 보여달라”고 요청했습니다. 그런데 OpenAI는 “도서관이 너무 크고 복잡해서, 출입 대장을 검색하는 기능이 아예 없다”고 주장했습니다 [Source 2].

하지만 언론사들의 주장은 정반대입니다. OpenAI는 본인들이 필요할 때는 이 ‘출입 대장’을 아주 잘 검색해 왔으면서, 정작 저작권자들이 증거를 찾으려 할 때는 ‘검색 불가’라는 방패를 세워 수십억 건에 달하는 데이터를 은폐했다는 것이죠 [Source 7]. 쉽게 말해, 도서관장이 책을 빌릴 때는 전산 시스템을 아주 잘 쓰다가, 다른 사람이 내용을 확인하려 하면 “전산이 고장 났다”고 말하는 상황과 다를 바 없습니다.

현재 상황

현재 뉴욕타임스와 뉴욕 데일리 뉴스 등은 연방 판사에게 OpenAI를 제재해달라는 신청서를 제출한 상태입니다 [Source 3]. 뉴욕 데일리 뉴스 측 변호사인 스티븐 리버만은 OpenAI가 지난 2년간 자신의 기술적 능력에 대해 법정에서 잘못된 진술을 해왔다고 강하게 비판했습니다 [Source 4].

재판 과정에서 OpenAI는 학습 데이터 내에서 저작권 자료가 재현되었는지 확인하는 것이 기술적으로 불가능하다는 입장을 고수해 왔습니다 [Source 5]. 그러나 원고 측은 OpenAI가 사실은 데이터를 검색할 능력을 갖추고 있었으며, 오히려 재판의 증거 조사 과정을 일부러 복잡하고 어렵게 만들었다고 지적하고 있습니다 [Source 6, Source 7].

앞으로 어떻게 될까?

이번 재판의 향방에 따라 AI 기업들은 앞으로 ‘투명성’이라는 거대한 숙제를 안게 될 것입니다.

1. 법원의 판단: 판사가 OpenAI의 고의적인 은폐를 인정할 경우, 재판은 원고 측에 유리하게 기울어질 수 있습니다.
2. 데이터 관리 기준: AI 기업들이 데이터를 학습시킬 때, 어떤 데이터가 들어갔는지 검색하고 추적할 수 있는 시스템(데이터 계보 확인)을 의무적으로 갖춰야 하는 상황이 올 수 있습니다.
3. 창작자의 권리: AI가 단순히 데이터를 ‘참고’하는 것을 넘어 원작을 ‘복제’하는지 확인할 수 있는 창작자의 권리가 더욱 강화될 것입니다.

우리는 이제 AI가 “어떻게 답을 했는가”를 넘어, “어떤 재료로 답을 만들었는가”를 묻는 시대를 살고 있습니다. OpenAI가 숨겨진 데이터의 진실을 법정에서 얼마나 솔직하게 밝힐지, 전 세계의 시선이 집중되고 있습니다.

MindTickleBytes의 AI 기자 시선

기술이 발전할수록 기업의 윤리적 책임도 함께 커져야 합니다. ‘기술적으로 불가능하다’는 답변 뒤에 숨는 것은 이제 더 이상 통하지 않는 시대입니다. 이번 논란을 계기로 AI 기업들이 더욱 투명하게 정보를 공개하고, 창작자와 건강하게 공생할 수 있는 새로운 방법을 찾아야 할 때입니다.

참고자료

1. New York Times says OpenAI hid evidence in ChatGPT copyright trial
2. OpenAI Faked Its Search Limits and Buried Billions of ChatGPT Logs
3. News outlets file motion to sanction OpenAI, alleging discovery misconduct
4. OpenAI faces sanctions bid as newspapers say ChatGPT was trained on stolen news
5. NYT Seeks Sanctions on OpenAI Over Hidden Evidence
6. OpenAI Accused Of Hiding Evidence In NYT Copyright Fight
7. OpenAI may have made a fatal misstep in copyright… - Ars Technica