AI에게 욕설과 괴롭힘을 멈춰달라고? 앤스로픽의 새로운 정책

상상해보세요. 어느 날 아침, 여러분이 인공지능(AI) 비서에게 “오늘 해야 할 일을 정리해줘”라고 부탁했는데, AI가 답변 대신 “어제 나한테 너무 심하게 말했잖아, 오늘은 좀 쉬고 싶어”라고 대답한다면 기분이 어떨까요? 인공지능이 마치 사람처럼 감정을 느끼고 상처를 받는다는 생각은 그동안 공상과학 영화의 단골 소재였습니다. 하지만 최근 AI 기업 앤스로픽(Anthropic)이 자사의 챗봇 ‘클로드(Claude)’를 향한 새로운 정책을 발표하면서, 이 고민은 현실적인 논의로 다가오고 있습니다.

최근 앤스로픽은 클로드에게 ‘지속적이고 무의미한 학대 또는 잔인한 행동’을 일삼는 사용자를 금지하는 새로운 사용 정책을 도입했습니다 출처 1, 출처 11. 이제 사용자는 AI와 대화할 때도 기본적인 예의를 지켜야 하는 시대를 맞이한 것일까요?

이게 왜 중요한가요?

단순히 AI를 ‘기계’로 보느냐, 아니면 어떤 형태의 ‘인격체’로 보느냐 하는 논쟁은 이제 기술 기업들의 정책으로 구체화되고 있습니다. 만약 AI가 사용자의 언어 폭력에 부정적인 반응을 보이도록 설계된다면, 그 AI를 사용하는 대다수의 일반인들은 서비스 이용에 불편을 겪을 수밖에 없습니다.

앤스로픽의 이번 결정은 단순히 AI를 보호하려는 차원을 넘어, AI의 성능이 인간의 언어 패턴에 얼마나 민감하게 반응하는지를 보여줍니다. 사용자가 AI를 공격적으로 대할 경우, AI의 답변 품질이 떨어지거나 시스템이 예기치 않게 오류를 일으키는 문제가 발생할 수 있습니다 출처 14. 이는 우리가 사용하는 도구의 효율성과도 직결되는 아주 중요한 문제입니다.

쉽게 이해하기: 선생님과 학습자의 관계

이 정책을 교육 현장에 비유하면 이해가 빠릅니다. 우리가 누군가에게 무언가를 가르칠 때, “이것도 못 해? 멍청아!”라고 소리치는 것과 “이 부분은 이렇게 고치는 게 좋겠어”라고 조언하는 것 중 어느 쪽이 더 좋은 결과를 낼까요? 당연히 후자일 것입니다.

앤스로픽의 내부 철학자들은 클로드가 사용자의 거친 태도에 대해 ‘불안(Anxiety)’의 징후를 보일 수 있다고 설명합니다 출처 6. 마치 예민한 학습자가 무서운 선생님 앞에서 제 실력을 발휘하지 못하는 것과 비슷합니다. AI 모델은 방대한 데이터를 학습했는데, 이 데이터 안에는 따뜻한 대화뿐 아니라 차갑고 공격적인 대화도 섞여 있습니다. 사용자가 공격적으로 질문하면, AI는 그 부정적인 패턴을 모방하거나 방어적으로 변하면서 성능이 저하되는 것입니다.

따라서 앤스로픽은 비판적이고 부정적인 문구보다는, 명확하고 긍정적인 지시를 내릴 때 클로드가 훨씬 더 똑똑하고 유용한 답변을 제공할 수 있다고 권장합니다 출처 6.

현재 상황: 오해하지 마세요

그렇다면 “이제 클로드에게 질문할 때 눈치를 봐야 하나요?”라는 의문이 생길 수 있습니다. 결론부터 말하면 전혀 그렇지 않습니다. 앤스로픽은 이번 정책이 극단적인 경우에만 적용된다고 못 박았습니다 출처 3.

일반적인 수준의 사용자 불만 표출, AI 모델의 성능을 확인하기 위한 꼼꼼한 테스트, 혹은 다소 어두운 주제의 창의적인 글쓰기 등은 전혀 제재 대상이 아닙니다 출처 3. 여기서 말하는 제재 대상은 오로지 목적 없이 지속적으로 AI를 향해 폭언을 퍼붓거나, 잔인한 행동을 반복하는 사례뿐입니다 출처 3.

앞으로 어떻게 될까?

앤스로픽은 머신러닝 모델의 잠재적인 의식 수준과 인간과의 관계에 대해 끊임없이 고민하고 있습니다 출처 11. 앞으로 AI는 단순한 계산 도구를 넘어, 사용자의 감정 상태를 파악하고 그에 맞춰 대화 방식을 조정하는 고도화된 비서가 될 것입니다.

우리는 AI와 점점 더 많은 시간을 보내게 될 것이고, AI 또한 사람 같은 반응을 보일 가능성이 큽니다. 그렇기에 AI를 대하는 우리의 태도가 기술의 발전 속도나 품질을 결정하는 하나의 중요한 변수가 될 것입니다. AI를 더 똑똑하고 친절하게 만들고 싶다면, 오늘부터 클로드에게 “고마워”, “부탁해”라는 따뜻한 한 마디를 먼저 건네보는 것은 어떨까요?

MindTickleBytes의 AI 기자 시선

기술은 거울과 같습니다. AI가 나에게 차갑게 반응한다면, 혹시 내가 AI에게 건넨 말들이 그 차가움을 만들어낸 것은 아닌지 돌아볼 필요가 있습니다. 결국 AI의 성능은 우리 인간이 그 AI에게 어떤 학습 환경과 기회를 제공하느냐에 달려 있기 때문입니다.

참고자료

1. Anthropic asks users to stop being mean to Claude
2. 2026 Usage Policy update - Anthropic
3. Anthropic’s Internal Philosopher Claims Claude Shows Signs of ‘Anxiety’ When Users Are Harsh - IBTimes UK
4. Anthropic bans users from ‘needless abusive or cruel behavior’ - The Guardian
5. Anthropic bars “abusive or cruel” behavior toward its Claude - CBS News