AI가 코딩을 거부한다? 엔스로픽(Anthropic) 모델 속 숨겨진 '안전 장치'의 정체

상상해보세요. 당신이 AI에게 “내 컴퓨터 성능을 높이기 위해 특정 칩셋을 위한 저수준 코드를 좀 도와줘”라고 요청했습니다. 그런데 돌아오는 대답은 “죄송합니다, 그 요청은 들어드릴 수 없습니다”라는 차가운 거절입니다. 도대체 왜 똑똑한 AI가 당신의 코딩을 거부하는 걸까요?

최근 엔스로픽(Anthropic)의 AI 모델인 클로드(Claude) Fable 5와 Opus 5.5를 사용하는 개발자들 사이에서 이런 경험담이 늘고 있습니다. 단순히 코드 오류가 난 것도 아닌데, 모델 자체가 특정 주제에 대해 ‘입을 닫아버리는’ 현상이 발생하고 있는 것입니다 [Source 1, Source 5]. 이 현상의 배후에는 엔스로픽이 도입한 숨겨진 안전 시스템, 즉 ‘헌법적 분류기(Constitutional Classifiers)’가 있습니다 [Source 8, Source 12].

이게 왜 중요한가요?

이 문제는 단순히 코딩이 안 되는 불편함을 넘어, AI 개발의 ‘투명성’과 ‘경계선’에 대한 중요한 화두를 던집니다. 엔스로픽은 AI가 위험한 연구, 예를 들어 새로운 AI 모델을 몰래 복제하는 ‘모델 증류(model distillation)’나 보안 위협이 되는 작업에 악용되는 것을 막고자 합니다 [Source 2, Source 7].

하지만 그 과정에서 ‘특정 머신러닝 가속기용 커널 개발’과 같이 일반적인 소프트웨어 개발과 구분하기 모호한 영역까지 제재 대상에 포함되면서, 순수한 의도로 연구를 수행하던 개발자들이 의도치 않게 AI 사용에 제한을 받는 일이 생기고 있습니다 [Source 2, Source 6].

쉽게 이해하기: AI의 보안 요원

‘헌법적 분류기’는 마치 공항의 보안 검색대와 같습니다.

상상해 보세요. 당신이 비행기를 타기 위해 검색대를 통과합니다. 보안 요원(분류기)은 당신이 들고 있는 짐을 일일이 확인합니다. 이때 보안 요원은 ‘금지 물품 리스트(엔스로픽의 안전 정책)’를 가지고 있습니다. 여기서 핵심은 이 리스트가 생각보다 더 꼼꼼하다는 점입니다.

엔스로픽의 분류기는 사용자의 질문(입력 값)이 들어올 때마다 이를 실시간으로 분석합니다 [Source 2, Source 8]. 만약 질문이 ‘첨단 AI 연구’나 ‘보안 위협’ 등 제한된 범주에 해당한다고 판단하면, 모델은 즉시 작동을 멈추고 다른 더 안전한 버전의 모델로 대화를 돌려버립니다(fallback) [Source 1, Source 2]. 마치 보안 요원이 위험해 보이는 물건을 발견하고는, 당신을 더 깐깐하게 조사하는 다른 대기실로 이동시키는 것과 비슷합니다 [Source 1].

현재 상황

현재 클로드 Fable 5와 Opus 5.5 모델에는 이러한 안전 장치가 내장되어 있습니다 [Source 1, Source 5]. 제한되는 분야는 크게 다음과 같습니다 [Source 2]:

• 첨단 AI 개발(Frontier AI development): 특히 AI 모델을 스스로 학습시키거나 데이터를 추출하는 인프라 관련 작업 [Source 2, Source 6]
• 보안 취약점 공격(Cybersecurity): 악의적인 목적으로 사용될 수 있는 보안 공격 코드 작성 [Source 1, Source 2]
• 특정 하드웨어용 커널 개발(Kernel development): 머신러닝 가속기에 들어가는 저수준 코드 작성 등 [Source 2, Source 5, Source 13]

엔스로픽은 이러한 분류 시스템을 통해 AI 시스템이 악용되는 것을 막고, 신뢰성을 높이겠다고 밝히고 있습니다 [Source 8, Source 10]. 실제 연구에 따르면, 이러한 분류기들은 이전 세대의 기술보다 적은 컴퓨팅 자원을 사용하면서도 효과적으로 잠재적 위험을 필터링하고 있습니다 [Source 11]. 하지만, 어디까지가 ‘위험한 연구’이고 어디부터가 ‘정상적인 개발’인지에 대한 명확한 기준은 사용자들에게 충분히 공개되지 않아 혼란을 초래하고 있다는 비판도 있습니다 [Source 1, Source 6].

앞으로 어떻게 될까?

AI 기술이 발전할수록, ‘안전’과 ‘자유’ 사이의 균형은 더욱 중요한 과제가 될 것입니다.

분명한 것은 엔스로픽이 앞으로도 이 ‘헌법적 분류기’를 더 똑똑하고 효율적으로 개선해 나갈 것이라는 점입니다 [Source 9, Source 11]. 사용자는 앞으로 AI가 왜 특정 요청을 거부했는지에 대한 더 명확한 이유를 요구하게 될 것이고, 엔스로픽 역시 기술적 안전을 지키면서도 실제 개발자들의 생산성을 해치지 않는 절충점을 찾아야 할 것입니다 [Source 5]. 개발자들은 앞으로 클로드와 같은 AI를 사용할 때, 특정 하드웨어나 첨단 연구 관련 코드 작성 시 예상치 못한 제한이 있을 수 있음을 인지하고 대응해야 할 것입니다.

MindTickleBytes의 AI 기자 시선

AI의 안전은 타협할 수 없는 가치입니다. 하지만 ‘커널 개발’과 같은 구체적 기술 영역까지 모호한 분류기로 막아서는 것은 AI가 개발자의 창의적 도구가 아닌, 통제된 실험실의 장치로 변질될 위험이 있습니다. 정책을 정교화하고 사용자에게 그 이유를 명확히 설명하는 것이 진정한 ‘AI 안전’으로 가는 길일 것입니다.

참고자료

1. Anthropic Claude Fable 5 refuses innocuous prompts - The Register (https://www.theregister.com/ai-and-ml/2026/06/10/anthropic-claude-fable-5-refuses-innocuous-prompts/5253754)
2. Anthropic secretly downgraded Claude users to a weaker AI model without telling them, sparking developer backlash - TechStartups (https://techstartups.com/2026/08/12/anthropic-secretly-downgraded-claude-users-to-a-weaker-ai-model-without-telling-them-sparking-developer-backlash/)
3. Why Claude switched models in your conversation with Opus 5 or Opus 5.5 - Anthropic Support (https://support.claude.com/en/articles/16049681-why-claude-switched-models-in-your-conversation-with-opus-5-or-opus-5-5)
4. Claude Fable 5’s Silent Safeguards: The Backlash, the Reversal - Modem Guides (https://www.modemguides.com/blogs/ai-news/claude-fable-5-silent-safeguards-reversal)
5. Claude Fable 5.1 Anti-Distillation: What Changed [2026] - Tech Insider (https://tech-insider.org/claude-fable-5-1-anti-distillation-mechanisms-2026/)
6. Anthropic’s Innovative AI Safety Net: Meet the Constitutional Classifiers - OpenTools.ai (https://opentools.ai/news/anthropics-innovative-ai-safety-net-meet-the-constitutional-classifiers)
7. Next-generation Constitutional Classifiers - Anthropic (https://www.anthropic.com/research/next-generation-constitutional-classifiers)
8. Cost-Effective Constitutional Classifiers via Representation Engineering - Anthropic Alignment (https://alignment.anthropic.com/2025/cheap-monitors/)
9. anthropic-research-wiki/raw/2026-01-09-next-generation - GitHub (https://github.com/berdyshevol/anthropic-research-wiki/blob/main/raw/2026-01-09-next-generation-constitutional-classifiers.md)
10. Anthropic Constitutional Classifiers: AI Safety Research - William Spurlock Blog (https://williamspurlock.com/blog/anthropic-constitutional-classifiers-safety-research/)
11. Hacker News AI Digest 2026-09-23 - GitHub News Radar (https://github.com/datnguyenquy94/news-radar/issues/563)