AI가 1930년 시집을 검열했다고요? 왜 그랬을까요?

상상해보세요. 서점에서 100년 가까이 된 오래된 시집 한 권을 집어 들었습니다. 시인은 퓰리처상을 받고 미국 계관 시인(국가 공식 시인)까지 지낸 거장입니다. 그런데 이 시집의 내용을 인공지능(AI)에게 보여주자, AI가 갑자기 “이 내용은 보여줄 수 없습니다”라며 내용을 가려버립니다. 도대체 1930년에 쓰인 시에 어떤 위험한 정보가 들어있길래 AI가 검열을 시도한 걸까요?

최근 AI 업계에서 벌어진 이 기이한 사건은 우리가 일상에서 무심코 사용하는 AI가 어떻게 정보를 처리하고, 무엇을 ‘위험’하다고 판단하는지 그 기준에 대해 다시 한번 생각하게 합니다.

왜 중요한가요?

우리가 매일 사용하는 AI는 수많은 책과 인터넷 데이터를 ‘먹고’ 자라는 학습 과정을 거칩니다. 그런데 AI가 무엇을 학습하고, 무엇을 사용자에게 보여주길 거부할지 결정하는 내부 기준은 대부분 베일에 싸여 있습니다. 만약 AI가 우리의 생각과 지식의 원천인 예술 작품을 멋대로 검열하기 시작한다면 어떻게 될까요? 이번 사건은 AI 기업들이 대량의 데이터를 수집하고 통제하는 방식, 그리고 그 과정에서 발생하는 ‘데이터 검열’의 불투명성을 적나라하게 보여줍니다.

쉽게 이해하기: AI의 ‘필터’

쉽게 말해서, AI의 학습 과정은 아주 거대한 도서관을 통째로 머릿속에 집어넣는 것과 비슷합니다. 하지만 AI 기업들은 단순히 책을 읽는 것을 넘어, AI가 안전하게 대답하도록 일종의 ‘필터’를 설치합니다.

이 필터는 우리가 사진 앱에서 사용하는 ‘필터’ 기능과 매우 비슷합니다. 어떤 사진을 찍어도 예쁘게 보정해주거나, 혹은 눈에 거슬리는 특정 색상을 자동으로 지워주는 것이죠. 그런데 만약 이 필터가 너무 민감하게 설정되어 있다면 어떨까요? 예술 작품 속의 은유적인 표현이나 인간의 복잡한 감정을 담은 시구절을 AI는 그저 ‘부적절한 단어’나 ‘위험한 정보’로 오해할 수 있습니다.

이번에 검열을 시도한 Claude 모델은 스탠리 쿠니츠(Stanley Kunitz)의 1930년 시집 ‘Intellectual Things’의 일부를 정체불명의 이유로 가려버렸습니다 출처 1. 쿠니츠는 퓰리처상을 수상하고 미국 계관 시인을 두 번이나 역임한 인물로, 평생 반검열 운동가로 활동하기도 했습니다 출처 2. 아이러니하게도 평생 검열에 맞서 싸운 시인의 작품이 AI에 의해 검열당한 셈입니다.

현재 상황: 수집과 통제의 딜레마

현재 AI 기업들의 데이터 수집 방식은 매우 공격적입니다. Anthropic을 비롯한 여러 기업은 모델을 훈련하기 위해 방대한 양의 책을 수집합니다 출처 8. 일각에서는 Anthropic이 학습을 위해 막대한 수의 종이 책을 물리적으로 파괴하며 디지털화했다는 비판도 제기되었습니다 출처 4.

물론 기술적 경쟁 속에서 속도와 비용을 위해 이런 방식이 선택되기도 했지만, 법적 논란은 끊이지 않았습니다. 다행히 최근 연방법원은 Anthropic의 이러한 데이터 학습 방식이 저작권법상 ‘공정 이용(Fair Use)’에 해당한다고 판결하며 기업의 손을 들어주었습니다 출처 10.

하지만 법적으로 정당하다고 해서 윤리적 문제까지 해결된 것은 아닙니다. Anthropic은 자신들이 안정적이고 해석 가능한 AI 시스템을 만들기 위해 노력한다고 주장하지만 출처 11, 이번 시집 검열 사건처럼 모델 내부의 ‘사고방식’이 왜곡되거나 불투명하게 작동하는 사례는 AI 안전에 대한 근본적인 의문을 갖게 합니다.

앞으로 어떻게 될까?

AI 모델은 이제 인간의 시를 이해하고, 라임을 맞추며 다음 문장을 창의적으로 쓰는 단계까지 발전했습니다 출처 7. 하지만 이렇게 똑똑해진 AI가 도리어 인간의 지적 유산을 자의적으로 차단한다면, 우리는 AI가 제공하는 ‘필터링된 지식’만 접하게 되는 세상에 살게 될지도 모릅니다.

최근 Anthropic은 AI가 스스로를 제어할 수 없는 상황을 방지하기 위해 ‘AI 일시 정지(AI Pause)’와 같은 논의를 다시 제기하기도 했습니다 출처 9. 그러나 무엇이 진정으로 안전하고 무엇이 과도한 검열인지에 대한 사회적 합의가 없다면, 이런 기술적 제어는 계속해서 인간의 표현 자유와 충돌할 가능성이 큽니다.

MindTickleBytes의 AI 기자 시선

비유하자면, 기술이 인간을 보호하겠다고 나설 때 우리는 가끔 보호 대상인 인간의 창의성마저 해치고 있지는 않은지 돌아봐야 합니다. 1930년의 시 한 구절조차 제대로 소화하지 못하고 지우려 하는 AI가 인류의 미래를 논하는 것은 아직 시기상조일지도 모릅니다. 우리는 더 똑똑한 AI를 원하지만, 그 AI가 인간의 예술적 유산을 존중할 줄 아는 성숙한 지능을 갖추는 것 또한 무엇보다 중요합니다.

참고자료

1. [The 1930 poetry book that Anthropic tried to censor

   MetaFilter](https://www.metafilter.com/214401/The-1930-poetry-book-that-Anthropic-tried-to-censor)

2. The 1930 poetry book that Anthropic tried to censor – Cool Tools
3. AI Companies Are Buying Antique Books, Ingesting Their Contents to…
4. Anthropic destroyed millions of print books to build its AI models - Ars Technica
5. How To Get Your Anthropic/ Claude API Key (2026) - YouTube
6. Anthropic уничтожает бумажные книги ради Claude? / Хабр

7. [Tracing the thoughts of a large language model

   Anthropic](https://www.anthropic.com/research/tracing-thoughts-language-model)

8. Anthropic Shredded Millions of Physical Books to Train its AI
9. Anthropic Tries to Revive the “AI Pause” - Internet Governance Project
10. cnbc.com/2025/06/24/ai-training-books-anthropic.html

11. [Home

    Anthropic](https://www.anthropic.com/)