AI가 가사를 못 부른다고? 노래 가사 재생을 거부하는 클로드의 속사정

상상해보세요. 오늘 퇴근길에 차 안에서 들었던 신나는 팝송이 너무 마음에 들어서, AI 비서인 클로드(Claude)에게 “방금 들은 노래 가사 좀 알려줘!”라고 말했습니다. 예전 같으면 AI가 가사를 쭉 적어줬겠지만, 이제는 “죄송합니다, 해당 콘텐츠는 저작권 보호 정책으로 인해 제공할 수 없습니다”라는 답변을 듣게 될지도 모릅니다.

최근 앤스로픽(Anthropic)이 개발한 AI 모델인 ‘클로드 페이블 5.1(Claude Fable 5.1)’이 시스템 프롬프트(AI가 답변을 생성할 때 따르는 기본 지침)를 새롭게 업데이트했습니다. 이 업데이트의 핵심은 한마디로 “저작권이 있는 자료를 그대로 베끼지 않겠다”는 강력한 의지입니다.

이게 왜 중요한가요?

우리 일상에서 AI는 이미 노래 가사를 찾거나, 예쁜 로고를 만들거나, 특정 캐릭터를 그려달라고 요청하는 도구로 익숙해졌습니다. 하지만 최근 소니 뮤직 퍼블리싱(Sony Music Publishing), 워너 채펠(Warner Chappell)과 같은 대형 음반사들이 AI 기업들을 대상으로 저작권 침해 소송을 제기하면서 상황이 달라졌습니다. 출처 5, 출처 8

이번 조치는 AI가 인간의 창작물을 무단으로 학습하고 그대로 재생산하는 것에 대한 법적, 윤리적 책임을 피하기 위한 대응입니다. 이는 앞으로 AI 서비스들이 저작권자와 어떻게 공생할지를 보여주는 중요한 사례가 될 것입니다. 출처 4

쉽게 이해하기

클로드의 새로운 시스템 프롬프트를 우리가 흔히 사용하는 ‘사진 필터 앱’에 비유해 볼 수 있습니다. 이전에는 AI가 사진을 아주 정교하게 그려냈다면, 이제는 “유명 화가의 그림 스타일을 흉내 내되, 그 화가의 원본 그림을 그대로 똑같이 그려내지는 말라”는 아주 엄격한 규칙이 생긴 셈입니다.

더 쉽게 비유해 볼까요?

• 노래 가사: 유명 가수의 노래 악보를 그대로 베껴 쓰는 것을 금지하는 것과 같습니다. 단순히 한두 줄을 쓰는 것이 아니라, 후렴구(Chorus)나 핵심적인 가사 전체를 복사하는 행위를 원천 차단합니다. 출처 1
• 시각 예술: 유명한 로고나 캐릭터를 그려달라는 요청에 대해, 클로드는 단순히 스타일을 바꾸는 것으로는 충분하지 않다고 판단합니다. 캐릭터는 그 자체로 저작권 보호를 받기 때문에, 옷 색깔을 바꾸거나 배경을 다르게 그려도 ‘원작’을 재현하는 것이라면 거절합니다. 출처 9

심지어 클로드가 코드를 사용하여 그려내는 그림(SVG, CSS, HTML 등)까지도 이 규칙이 적용됩니다. 이제 클로드는 유명한 캐릭터나 브랜드 로고를 대신 그려주지 않습니다. 출처 9, 출처 13

현재 상황

현재 이 정책은 클로드의 웹사이트(claude.ai)와 모바일 앱 사용자들에게 적용되고 있습니다. 하지만 모든 요청을 거부하는 것은 아닙니다. 1929년 이전에 발표된 노래 가사나 시, 문학 작품들은 저작권 보호 기간이 만료되었기 때문에 이전과 같이 자유롭게 요청할 수 있습니다. 출처 9

재미있는 점은 클로드가 해당 작품이 저작권 보호 기간 내에 있는지 스스로 확신하지 못할 때도 “잘 모르겠다”며 답변을 거부한다는 점입니다. AI가 스스로 안전한 쪽을 택하는 ‘보수적인’ 태도를 보이는 것이죠. 또한, 이 정책은 일반 사용자를 대상으로 하며 개발자들이 사용하는 API에는 적용되지 않는다고 합니다. 출처 8, 출처 9

앞으로 어떻게 될까?

앞으로 AI 서비스들은 ‘창작’과 ‘저작권 존중’ 사이에서 더욱 정교한 균형을 찾아갈 것입니다. 이용자들은 이제 AI에게 “특정 노래 가사를 그대로 써줘”라고 요청하기보다는, “이 노래와 비슷한 감성의 시를 창작해줘”와 같이 AI만의 창의성을 끌어내는 방향으로 프롬프트를 수정해야 할지도 모릅니다. AI는 이제 똑똑한 베끼기 도구에서 벗어나, 인간의 창의성을 돕는 진정한 파트너로 진화하고 있는 과정 속에 있습니다.

참고자료

1. Claude’s new system prompt really doesn’t want to reproduce song lyrics
2. Anthropic Publishes Claude Fable 5.1 System Prompt With Song
3. Claude system prompt bans lyrics after Sony, Warner sue
4. Claude’s New System Prompt Really Doesn’t Want to Reproduce …
5. Claude’s new system prompt - sippey.com

6. [Simon Willison — Claude’s new system prompt…

   AI/TLDR](https://ai-tldr.dev/releases/simonw-claude-system-prompt-lyrics-sep2/)

7. Claude Fable 5.1 system prompts - Claude Platform Docs
8. Claude’snewsystempromptreallydoesn’twanttoreproduce…