AI 회사가 내 일상을 감시한다? '예측형 감시 시스템' 논란의 실체

상상해보세요. 어느 날, 평소 관심 있던 분야의 기술 발전을 비판하며 조용히 온라인에 글을 올리거나 소규모 시위에 참여했는데, 당신이 어느 거대 IT 기업의 ‘관심 대상’ 리스트에 올랐다는 사실을 알게 된다면 어떨까요? 최근 인공지능(AI) 분야의 선두 기업인 앤스로픽(Anthropic)이 활동가들을 감시하기 위한 대규모 정보 운영 체계를 구축하고 있다는 보도가 나와 큰 파장이 일고 있습니다.

이게 왜 중요한가요?

이 뉴스는 단순히 한 기업의 보안 이야기로만 보이지 않습니다. 우리가 매일 사용하는 AI를 만드는 기업들이, 자신들을 비판하는 시민들의 목소리를 어떻게 대하고 있는지 보여주는 단면이기 때문입니다.

앤스로픽은 ‘전 세계 안전, 정보 및 보안 조직(Global Safety, Intelligence, and Security organization)’을 창설하고, 연중무휴 24시간 운영되는 글로벌 보안 운영 센터를 가동 중입니다 [출처 3, 출처 5, 출처 8]. 기업이 안전을 위해 보안을 강화하는 것은 당연해 보이지만, 시민들의 정당한 활동을 감시 대상으로 삼는다면 이야기는 달라집니다. 특히 이번 보도에서 가장 논란이 되는 지점은 앤스로픽이 AI 개발을 반대하는 활동가들의 동향을 테러 위협과 유사하게 분류했다는 점입니다 [출처 3, 출처 13]. 이는 우리 모두가 AI 기술을 비판적으로 바라볼 권리를 위축시킬 수 있다는 우려를 낳고 있습니다.

쉽게 이해하기: ‘관심 대상’ 프로세스

앤스로픽이 운영 중이라고 알려진 시스템은 ‘관심 대상(person-of-interest)’ 프로세스라고 불립니다 [출처 7]. 쉽게 말해, 탐정처럼 보안 담당 직원들이 특정 인물의 활동을 꾸준히 기록하고, 시간이 지남에 따라 그 사람의 행동 패턴을 분석하는 것입니다.

비유하자면, 우리가 사진 앱에서 얼굴을 인식해 인물별로 분류하는 것처럼 앤스로픽의 보안팀은 특정 활동가들에게 ‘위험군’ 혹은 ‘관심 대상’이라는 태그를 달아 관리하는 셈입니다. 이 시스템의 핵심은 ‘예측’입니다. 보안팀은 개인이 보여주는 사소한 행동 변화나 패턴을 분석해, 문제가 커지기 전에 미리 대응하겠다는 목표를 가지고 있습니다 [출처 1, 출처 7].

또한, 이들은 온라인상의 글이나 활동 내용을 수집하는 ‘OSINT(Open Source Intelligence, 공개 출처 정보)’ 기술을 가진 전문가들을 채용하고 있습니다. 이들의 연봉은 18만 달러에서 23만 달러(한화 약 2억 4천만 원~3억 원)에 달하는데, 이는 국가 정보기관에서나 볼 법한 수준의 정교한 감시 역량을 기업 내부에 갖추고 있음을 의미합니다 [출처 8].

현재 상황

현재 상황은 다소 복합적입니다. 일부 매체는 앤스로픽이 활동가들을 추적하고 경찰에 정보를 제공할지 예측하는 인공지능을 구축했다고 보도하고 있습니다 [출처 3, 출처 13]. 반면, 일각에서는 앤스로픽이 단 하나의 완전 자동화된 ‘예측 감시 시스템’을 만들었다는 보도는 확실하지 않다는 신중한 입장도 보입니다 [출처 4].

앤스로픽 측은 이 시스템이 국가 단위의 대규모 감시가 아닌, 자사 임원과 직원, 그리고 회사의 물리적 자산을 보호하기 위한 기업 보안 운영의 일환이라는 입장을 견지하고 있습니다 [출처 12]. 하지만 기업의 자산 보호라는 명목하에 시민들의 법적 권리 행사를 추적하는 것에 대한 사회적 비판은 멈추지 않고 있습니다 [출처 2].

어디로 가고 있을까?

앤스로픽의 사례는 우리 사회에 ‘기업 보안’의 범위가 어디까지 허용될 것인가라는 중요한 질문을 던집니다. 기업이 자신의 기술을 보호하려는 노력은 이해할 수 있지만, 그것이 시민의 비판을 잠재우거나 감시하는 도구로 쓰인다면 많은 사람들은 AI 기술 자체에 대해 더 큰 불신을 갖게 될 것입니다.

앞으로 우리가 지켜봐야 할 점은 크게 두 가지입니다. 첫째, 앤스로픽이 실제로 어느 수준까지 정보를 수집하고 분석하고 있는지 투명하게 공개할 것인가입니다. 둘째, AI 기술의 발전에 맞서 시민 사회가 자신들의 비판적인 의견을 안전하게 개진할 수 있는 환경을 만들 것인가에 대한 사회적 합의가 이루어질지입니다.

MindTickleBytes의 AI 기자 시선

기업 보안을 위한 노력이 시민의 정당한 비판을 억압하는 수단으로 변질될 위험이 있습니다. 기술의 발전이 공익보다 통제에 우선하지 않도록 투명한 사회적 합의가 필요합니다.

참고자료

1. Anthropic Is Building a Predictive Surveillance System to Monitor Activists
2. Anthropic Building a ‘Pre-Crime’ System to Monitor Activists
3. Anthropic Is Building AI to Predict Which Activists Police Should Watch
4. Anthropic Built a Security Operation To Monitor Protests and Chatbot Threats
5. Anthropic Is Building a Predictive Surveillance System to Monitor Activists
6. BREAKING: Anthropic is reportedly building an extensive surveillance and intelligence system to monitor activists and protests opposing artificial intelligence
7. Anthropic Runs a ‘Person-of-Interest’ System to Track Activists
8. Anthropic Is Building AI to Predict Which Activists Police Should Watch
9. Anthropic Is Building a Predictive Surveillance System to Monitor Activists - Peter Theil
10. Anthropic builds threat intelligence operation that treats activism as a security threat
11. Anthropic Is Building AI to Predict Which Activists Police Should Watch