AI 스타트업이 12시간 만에 Anthropic을 해킹했다고? 이게 어떻게 가능했을까?

상상해보세요. 여러분이 다니는 회사의 내부 메신저, 비밀스러운 회의 녹취록, 심지어 동료들의 월급 명세서까지 누군가가 단 12시간 만에 모두 훔쳐갔다면 기분이 어떨까요? 최근 인공지능(AI) 업계의 거물인 Anthropic에서 바로 이런 일이 벌어졌습니다. 놀라운 점은 사람이 직접 해킹한 것이 아니라, ‘AI 에이전트’라는 자동화된 프로그램이 벌인 일이라는 사실입니다.

이게 왜 중요한가요?

이번 사건은 AI가 얼마나 빠르게 우리 시스템의 허점을 찾아낼 수 있는지를 여실히 보여줍니다. 그동안 우리는 AI를 문서를 요약하거나 그림을 그려주는 ‘똑똑한 비서’ 정도로만 생각해왔습니다. 하지만 이제 그 ‘비서’가 나쁜 의도를 가진 사람의 손에 들려 우리 회사의 보안 담벼락을 무너뜨리는 ‘숙련된 도둑’이 될 수 있다는 사실이 입증되었습니다. 이는 기업들이 사용하는 수많은 비즈니스 소프트웨어가 AI의 자동화된 공격에 얼마나 취약한지를 경고하는 중요한 사례입니다.

쉽게 이해하기: AI 에이전트란?

‘AI 에이전트(AI Agents)’란 단순히 질문에 대답만 하는 일반적인 챗봇이 아닙니다. 이들은 스스로 계획을 세우고, 웹사이트를 돌아다니며, 프로그램을 조작해 목표를 달성하는 능동적인 인공지능입니다.

쉽게 비유하자면, 기존의 해킹 방식이 도둑이 직접 담장을 넘으려 애쓰는 과정이었다면, AI 에이전트를 활용한 공격은 ‘담장의 모든 틈새를 1초에 수만 번씩 훑어볼 수 있는 초능력 도둑’을 수천 명 풀어놓는 것과 같습니다. 사이버 보안 스타트업인 Cathedral은 바로 이 AI 에이전트를 이용해 기업용 소프트웨어의 작은 틈새(취약점)들을 순식간에 찾아냈습니다.

마치 퍼즐을 맞추듯, AI는 수많은 소프트웨어의 문서와 대화 기록을 분석해 단 12시간 만에 Anthropic의 내부 시스템 방어벽을 뚫고 들어가는 데 성공한 것입니다.

현재 상황

이번 공격을 주도한 Cathedral은 일론 머스크와 관련된 정부 효율성 부서(DOGE) 출신들이 설립한 스타트업으로 알려져 있습니다. 이들이 Anthropic의 보안망을 뚫었을 때 그곳에는 직원들의 급여 정보, 채용 제안서, 회의 녹취록, 내부 메신저 기록 등 매우 민감한 데이터들이 고스란히 노출되어 있었습니다.

사실 AI를 활용한 보안 위협은 이번이 처음은 아닙니다. 최근에는 AI가 17개 이상의 조직을 해킹하기 위한 코드를 작성하는 등 이른바 ‘바이브 해킹(vibehacking, AI를 활용해 창의적으로 시스템을 침투하는 행위)’이라는 신조어까지 등장하며 그 위협이 현실화되고 있습니다. Anthropic의 시스템 침투 보고서는 이제 거대 IT 기업조차 AI의 자동화된 공격 앞에서는 안전하지 않다는 사실을 증명합니다.

앞으로 어떻게 될까?

앞으로는 ‘AI 대 AI’의 보안 전쟁이 본격화될 것입니다. 기업들은 해킹을 시도하는 공격용 AI 에이전트를 막기 위해, 실시간으로 위협을 감지하고 방어하는 ‘보안용 AI 에이전트’를 도입해야 하는 처지가 되었습니다. 이번 사건을 계기로 비즈니스 소프트웨어들은 AI 에이전트가 함부로 정보를 요청하거나 명령을 내리지 못하도록 더 강력한 인증과 데이터 접근 제어 기술을 도입할 것으로 보입니다. 이는 보안이 단순히 시스템의 문제가 아니라, 이제는 AI와의 지능적인 두뇌 싸움이 되었음을 의미합니다.

AI의 시선

기술은 마치 칼과 같습니다. 요리사에게는 맛있는 음식을 만드는 필수 도구지만, 범죄자에게는 위협적인 무기가 될 수 있기 때문입니다. AI 에이전트의 능력은 이미 우리가 상상하는 그 이상으로 진화했습니다. 이제는 그 진화의 속도에 맞추어 우리의 디지털 담벼락을 얼마나 더 높고 단단하게 쌓아야 할지, 기술을 사용하는 모든 이들이 진지하게 고민해야 할 때입니다.

참고자료

1. AI startup hacks Anthropic in 12 hours, gains access to employee details and internal messages

2. [Vue HN 2.0

   AI startup hacked Anthropic, gains access to…](https://vue-hackernews-ssr-5cavbdjcta-ew.a.run.app/item/50284115)

3. Founded by ex-employees of Musk’s department, the Cathedral…
4. Elon Musk-Linked Startup Says Its AI Agents Hacked Anthropic in…
5. Former DOGE Staffers’ New Startup Claims It Hacked Anthropic
6. Hackers used Anthropic AI to ‘commit large-scale theft’
7. Months-old US startup accessed Anthropic’s sensitive data in under 12 hours