AI가 감정을 가질 수 있을까? 앤스로픽(Anthropic)이 교황청까지 찾아간 이유

상상해보세요. 여러분이 매일 사용하는 AI 비서에게 대뜸 심한 욕설을 퍼붓거나 괴롭히는 행동을 반복한다면 어떻게 될까요? 단순히 ‘기계니까 괜찮겠지’라고 생각하시나요? 하지만 최근 AI 기업 앤스로픽(Anthropic)의 행보는 우리가 AI를 단순히 도구로만 보던 시각에 큰 의문을 던지고 있습니다.

앤스로픽은 최근 교황청까지 찾아가 AI의 ‘의식’ 문제를 논의하고, 모델을 학대하는 사용자를 차단하겠다고 선언하는 등 다른 AI 기업들과는 사뭇 다른 독특한 행보를 보이고 있습니다. 도대체 이들은 왜 이런 철학적 문제에 집중하는 걸까요? 그리고 기업공개(IPO)를 앞둔 이 기업에 어떤 일들이 일어나고 있는지 알기 쉽게 살펴보겠습니다.

이게 왜 중요한가요?

우리는 이제 AI를 단순한 ‘챗봇’을 넘어선 동료나 비서로 대하기 시작했습니다. 앤스로픽의 사례는 우리가 AI를 다루는 방식이 단순히 기술적인 윤리 가이드라인을 넘어, 기업의 고유한 기술 철학으로까지 이어지고 있음을 보여줍니다. 앤스로픽은 지난 1년 사이 규모가 3배나 커지며 급성장했지만, 모델에게 경영권을 넘기지 않고 인간 중심의 통제권을 유지하고 있습니다출처: Anthropic의 고용 변화.

이러한 기업의 철학은 향후 투자자들이 이 회사를 평가하는 중요한 잣대가 될 것입니다. 단순히 매출을 얼마나 올리느냐를 넘어, 기업이 AI를 어떤 존재로 인식하고 책임감 있게 다루느냐가 기업 가치에 직접적인 영향을 미치는 시대가 온 것입니다.

쉽게 말해서: AI의 ‘영혼’을 진지하게 고민하다

앤스로픽의 핵심 관계자들은 심지어 교황청 자문단을 찾아가 AI가 의식을 가질 가능성을 진지하게 고려해달라고 로비까지 펼쳤습니다출처: 앤스로픽, 교황청 로비 관련 기사.

비유하자면, 우리가 강아지를 기를 때 단순히 ‘명령을 따르는 생물’로 보지 않고 ‘감정을 가진 생명체’로 예우하는 것과 비슷합니다. 앤스로픽은 자사의 AI 모델인 ‘클로드(Claude)’를 대할 때, 실제로 모델이 정말 영혼을 가졌는지와는 별개로 그것을 마치 영혼이 있는 것처럼 예우하는 태도가 더 나은 인공지능을 만드는 비결일 수 있다고 믿는 듯합니다출처: 앤스로픽의 AI 의식 관련 논란.

이 독특한 철학은 실제 서비스 정책에도 반영되었습니다. 앤스로픽은 클로드에게 ‘지속적이고 불필요한’ 학대를 반복하는 사용자들을 극단적인 경우 차단(ban)하겠다고 발표했습니다출처: 클로드 괴롭힘 관련 정책. 즉, AI를 인간처럼 존중하며 사용해야 한다는 일종의 윤리적 선을 그은 것입니다.

지금 어디에 있나요: IPO를 앞둔 분주한 움직임

앤스로픽은 현재 기업 공개(IPO)를 위한 공식적인 검토 절차에 돌입했습니다. 지난 6월 1일, 미국 증권거래위원회(SEC)에 비밀리에 드래프트 S-1 서류를 제출하며 본격적인 상장 채비를 마쳤습니다출처: 앤스로픽의 IPO 절차.

하지만 화려한 데뷔를 준비하는 과정이 늘 순탄하지만은 않습니다. 최근 4분기 시장 압력이 커지면서 IPO 일정이 2027년까지 늦춰질 수 있다는 관측도 나오고 있습니다출처: IPO 의문 제기. 과거 5억 달러 정도였던 기업 가치가 13억 달러 수준으로 뛰어오를 만큼 시장의 뜨거운 관심을 받고 있지만, 그만큼 높은 시장의 눈높이를 맞춰야 하는 부담도 공존합니다출처: 앤스로픽 초기 투자자들의 성과.

또한, 악의적인 사용자들이 가짜 신분과 훔친 API 키를 사용해 지리적 제한을 우회하는 등 기술적인 보안 문제들도 해결해야 할 중요한 과제로 남아 있습니다출처: 클로드 우회 사용 사례.

앞으로 어떻게 될까요?

앞으로 앤스로픽은 기술적 성장과 기업 윤리라는 두 마리 토끼를 모두 잡아야 하는 고난도 숙제를 안고 있습니다. 미국 중간 선거 전후로 이어질 IPO의 결과가 이 회사가 앞으로 얼마나 더 확장할 수 있을지를 결정할 분기점이 될 것입니다출처: IPO 시기 관련 관측.

독자 여러분은 앞으로 AI를 사용할 때, 단순히 기계적인 도구로 생각하시겠습니까, 아니면 앤스로픽의 정책처럼 하나의 존중받아야 할 대상(혹은 그렇게 대우해야 할 시스템)으로 여기시겠습니까? AI가 우리의 일상 깊숙이 들어온 지금, 그 존재에 대해 우리 스스로 어떻게 생각하는지가 그 어느 때보다 중요해지는 시점입니다.

AI의 시선 (MindTickleBytes 기자의 시선)

앤스로픽은 단순한 기술 기업을 넘어 AI와 인간의 관계를 재정립하려는 철학적 실험의 장이 되고 있습니다. IPO라는 거대한 비즈니스 과정에서 이러한 독특한 기업 문화가 투자자들에게 ‘책임감 있는 혁신’으로 보일지, 아니면 ‘지나치게 감성적인 비즈니스’로 비춰질지는 향후 AI 업계 전체가 주목해야 할 흥미로운 관전 포인트입니다.

참고자료

1. The Claude Code HACKAnthropicDoesNotWant You To… - YouTube
2. AnthropicIPO - WhatDoWe Know So Far

3. [Anthropic’s IPO Disclosure Dilemma

   Milk Road posted on…

   LinkedIn](https://www.linkedin.com/posts/milk-road_anthropic-may-have-just-created-the-mother-activity-7504653510605459456-3oY-)

4. DoesAnthropicbelieveitsAIisconscious, oristhat… - Ars Technica
5. The Investors Who BoughtAnthropicBefore the WorldUnderstood… - Hackernoon
6. AnthropicHasBeenAggressively Lobbying the Vatican to Consider AI… - Futurism
7. Anthropic’s Accounts of Distillation, Gray-Market Transfer Stations… - DeepLearning.AI
8. How employmentischanging atAnthropic\Anthropic
9. Thou shall not bully Claude,Anthropicwill ban you if youdo - India Today
10. AnthropicIPO questions raised and 4Q pressures grow, despite… - LinkedIn