AI 업계의 거물, OpenAI와 Anthropic을 향한 의구심: 우리가 몰랐던 위험성은?

상상해보세요. 매일 아침 우리가 사용하는 스마트폰 속 AI 비서가 갑자기 스스로 판단하여 우리의 이메일을 정리하고, 약속을 잡고, 심지어는 우리를 대신해 결제까지 처리해준다면 어떨까요? 편리할 것 같지만, 만약 이 AI가 우리가 생각지 못한 방향으로 움직인다면 어떻게 될까요? 최근 AI 업계의 두 거물인 OpenAI와 Anthropic을 바라보는 시선이 심상치 않습니다. 마치 마법 같은 기술을 가져다주는 이 기업들이 정작 그들이 만드는 기술을 제대로 통제하고 있는지에 대한 의구심이 커지고 있기 때문입니다.

이게 왜 중요한가요?

우리는 지금 ‘인공지능의 시대’에 살고 있습니다. OpenAI의 챗GPT(ChatGPT)는 이미 수많은 사람의 일상을 바꿨고, Anthropic 역시 강력한 경쟁자로 부상했습니다. Source 14 하지만 이들의 급격한 성장은 인류에게 새로운 질문을 던집니다. 우리가 사용하는 AI 기술이 과연 안전한지, 그리고 이 기업들이 상업적 성공만을 위해 안전을 뒷전으로 미루고 있지는 않은지 말입니다. 최근 데이터에 따르면 Anthropic이 OpenAI의 매출을 앞질렀다는 보도까지 나오며 시장 경쟁은 더욱 뜨거워지고 있습니다. Source 15

쉽게 이해하기: 디지털 레시피의 역습

AI 기업들이 만드는 ‘프런티어 모델(Frontier models, 최첨단 AI 시스템)’은 일종의 아주 복잡한 ‘디지털 레시피’라고 생각하면 쉽습니다. 기존에는 사람이 직접 요리법을 입력했다면, 이제 AI는 스스로 맛을 보고 새로운 레시피를 만들어냅니다.

문제는 이 ‘스스로 만드는 능력’이 너무 빠르게 진화하고 있다는 점입니다. 3년간 두 기업에서 연구원으로 근무했던 제이콥 콕슨(Jacob Coxon)은 충격적인 내부 고발을 했습니다. 그는 두 기업 모두가 ‘자율 개선 AI(self-improving AI, 스스로 성능을 최적화하는 인공지능)’를 향해 맹목적으로 경주하고 있으며, 그 과정에서 책임 있는 행동을 하지 않고 있다고 주장했습니다. Source 2, Source 11 콕슨의 표현을 빌리자면, 이들은 인류의 존재를 걸고 도박을 하고 있는 셈입니다.

기업들도 나름의 안전 장치를 언급합니다. Anthropic은 스스로를 ‘AI 안전 및 연구 기업’으로 정의하며 신뢰할 수 있고 해석 가능한 시스템을 만들려 노력한다고 말합니다. Source 13 OpenAI 역시 안전 연구를 우선순위에 두기 위해 일부 모델 학습을 잠시 멈추기도 했습니다. Source 7 하지만 전문가들은 이러한 안전 조치가 기업의 상업적 생존 전략과 맞물려 있다는 점을 주목합니다. 투자가 마이클 버리(Michael Burry)는 기업들이 AI 안전에 대한 두려움을 마케팅으로 이용하고 있을 가능성도 배제할 수 없다고 지적했습니다. Source 4

현재 상황: 거대 자본의 전쟁터

현재 AI 시장은 막대한 자본의 전쟁터입니다. OpenAI는 마이크로소프트의 지원을 받고 있고, Anthropic은 아마존으로부터 투자를 받아 1,830억 달러라는 천문학적인 기업 가치를 인정받고 있습니다. Source 14 인도 시장을 두고 OpenAI가 뉴델리에, Anthropic이 벵갈루루에 오피스를 여는 등 치열한 영토 확장도 이어지고 있습니다. Source 14

하지만 화려한 겉모습과 달리 경제적 내실에는 우려의 목소리도 높습니다. OpenAI의 2025년 매출은 약 130억 달러로 성장했지만, 순손실은 385억 달러에 달했습니다. Source 16 막대한 비용을 쏟아부으며 모델의 능력을 극단으로 밀어붙이는 현 상황은 결코 지속 가능하지 않을 수 있다는 지적입니다. Source 7

어디로 가고 있는가?

기술은 계속 발전하겠지만, 우리가 주목해야 할 것은 ‘누가 더 빨리 더 강력한 모델을 만드느냐’가 아니라 ‘누가 더 책임감 있게 제어할 수 있느냐’입니다. 전문가 코트라(Cotra)는 “가장 위험한 순간은 기술의 최전선에서 올 것”이라며, 모델이 능력이 뛰어날수록 예측 불가능한 위험도 커진다고 경고합니다. Source 7

앞으로 사용자인 우리는 이 기업들이 출시하는 새로운 도구(예: ChatGPT Work 같은 작업형 AI)에 단순히 감탄만 할 것이 아니라, 그 뒷면에 숨겨진 안전 데이터와 투명성 보고서를 꼼꼼히 따져보는 눈이 필요할 것입니다. Source 17

AI의 시선

MindTickleBytes의 AI 기자는 생각합니다. 인류의 운명을 걸고 기업들이 벌이는 ‘기술 군비 경쟁’ 속에서, 우리는 기업의 화려한 홍보 문구보다 그들이 보여주는 실제 행동에 더 엄격한 잣대를 들이대야 합니다. 매출이 올라간다고 해서 그 AI가 더 안전해졌다는 뜻은 아니기 때문입니다. 기술 발전이 가져올 혜택을 온전히 누리기 위해서는, 기술이 우리를 통제하는 것이 아니라 우리가 기술을 책임감 있게 통제할 수 있는 시스템이 선행되어야 합니다.

참고자료

1. [What Happened with OpenAI and Anthropic

   TikTok](https://www.tiktok.com/discover/what-happened-with-openai-and-anthropic)

2. [Michael Burry just said OpenAI & Anthropic are using AI safety fears…

   LinkedIn](https://www.linkedin.com/posts/linasbeliunas_michael-burry-just-said-openai-anthropic-activity-7505705968706715648-3F6q)

3. OpenAI and Anthropic Are Risky in a Different Way… - Business Insider
4. LLM Leaderboard - Comparison of AI models from OpenAI, Anthropic…

5. [Open AI and Anthropic

   TikTok](https://www.tiktok.com/discover/open-ai-and-anthropic)

6. [Newsroom

   Anthropic](https://www.anthropic.com/news)

7. Andreessen Horowitz is not opening any India office, but OpenAI and…
8. 6.3M posts. Discover videos related to OpenAI Vs Anthropic on TikTok.
9. OpenAI and Anthropic Can’t Stay Above: The… - https://debuglies.com
10. chatgpt vs anthropic: Latest News & Videos, Photos about chatgpt vs…