내 AI 비서의 기억력, 정말 안전할까? 구글의 '프라이빗 AI 컴퓨트'가 제시하는 답

AI Summary

클라우드 AI의 강력함과 개인 정보 보호 사이의 간극을 메우는 구글의 '프라이빗 AI 컴퓨트' 기술이 어떻게 서버 측 메모리를 안전하게 관리하는지 알아봅니다.

내 AI 비서의 기억력, 정말 안전할까? 구글의 ‘프라이빗 AI 컴퓨트’가 제시하는 답

상상해보세요. 아침에 일어나 AI 비서에게 “오늘 회의 자료 좀 정리해줘. 지난번 회의 때 나왔던 아이디어들 중심으로.”라고 말합니다. AI는 당신의 지난 회의 기록과 관련 파일들을 척척 찾아 깔끔하게 요약해주죠. 마치 당신의 모든 업무 내용을 완벽하게 기억하는 전담 비서 같습니다. 하지만 한편으로는 이런 걱정이 듭니다. ‘내 민감한 정보들이 클라우드라는 거대한 서버망 속에서 정말 안전하게 보호되고 있을까?’

최근 구글이 선보인 ‘프라이빗 AI 컴퓨트(Private AI Compute)’ 기술은 바로 이 불안감에 대한 명쾌한 답을 제시합니다. 이 기술은 우리가 AI 비서에게 더 많은 업무를 안심하고 맡길 수 있도록, 클라우드 환경에서도 내 스마트폰 기기처럼 개인 정보가 안전하게 격리될 수 있다는 확신을 주려는 시도입니다.

이게 왜 우리에게 중요할까요?

우리가 AI 비서에게 점점 더 많은 개인 정보나 민감한 업무 데이터를 맡기게 되면서, ‘개인 정보 보호’는 선택이 아닌 필수가 되었습니다. AI가 우리의 일상과 업무 현장에 깊숙이 자리 잡으려면, 사용자는 자신의 정보가 안전하게 관리되고 있다는 ‘믿음’이 전제되어야 하죠.

쉽게 말해서, 아무리 똑똑한 비서라도 내 방 문을 열고 마음대로 일기를 읽어본다면 그를 신뢰할 수 없는 것과 같습니다. 구글의 ‘프라이빗 AI 컴퓨트’는 클라우드 AI의 강력한 연산 능력은 그대로 유지하면서도, 개인 정보가 침해되지 않도록 ‘잠금장치’를 더하는 핵심 기술입니다. 이는 우리가 AI와 상호작용하는 방식을 근본적으로 안전하게 변화시킬 전환점이 될 것입니다.

‘안전한 금고’가 된 클라우드: 프라이빗 AI 컴퓨트란 무엇일까요?

기존 클라우드 방식에서 AI는 서비스를 제공하기 위해 많은 정보를 서버에 저장하고 처리해야 했습니다. 이때 보안 문제가 발생하곤 했죠. 하지만 구글의 ‘프라이빗 AI 컴퓨트’는 서버 측 메모리(server-side memory)를 마치 ‘안전한 디지털 금고(secure digital vault)’처럼 취급하는 새로운 방식을 제안합니다. 일반적인 데이터 보관함이 아닌, 오직 특정 열쇠를 가진 사람만 열 수 있는 특수 금고에 데이터를 넣는 셈입니다.

이 기술의 핵심은 신뢰 실행 환경(Trusted Execution Environment, TEE)과 AMD의 SEV-SNP(Secure Encrypted Virtualization-Secure Nested Paging) 기술을 활용한다는 점입니다.

신뢰 실행 환경(TEE): 컴퓨터 시스템 안에 마련된 ‘보안 구역’입니다. 이 구역 안에서 처리되는 데이터는 외부의 다른 프로그램이나 시스템 관리자조차 접근하거나 볼 수 없도록 강력하게 격리됩니다. 비유하자면, 회사의 기밀 문서들이 따로 마련된 금고 안에 있고, 그 금고를 열 수 있는 열쇠는 오직 해당 작업을 담당하는 프로그램(가상 머신, VM)에게만 주어지는 것과 같습니다. [출처 15, 18]
AMD SEV-SNP: 서버의 거대한 메모리를 작은 조각으로 나누고, 각 조각을 암호화하여 특정 가상 머신만 접근할 수 있게 만드는 기술입니다. 이는 서버라는 넓은 화이트보드 중 특정 부분에만 암호로 된 투명한 덮개를 씌워, 권한이 있는 담당자만 그 내용을 볼 수 있게 하는 원리입니다. [출처 14]

구글은 이러한 기술들을 결합하여 CPU와 TPU(Tensor Processing Unit, AI 연산에 특화된 칩) 워크로드를 위한 AMD 기반 하드웨어 TEE를 구축했습니다. 이를 통해 서버 메모리를 암호화하고 호스트 시스템으로부터 완전히 격리하여, 오직 인증된 작업만이 이 보안 영역에서 실행되도록 합니다. [출처 15]

비유하자면, 이는 우리가 평소 사용하는 스마트폰에서 결제 정보를 보호하는 ‘보안 칩’과 같은 역할을 거대한 클라우드 환경에 구현한 것입니다. 즉, 온디바이스 컴퓨팅(on-device computation), 즉 사용자 기기에서 직접 처리되는 것과 동등한 수준의 개인 정보 보호를 클라우드에서도 누릴 수 있게 하겠다는 목표입니다. [출처 13]

현재 상황: 이미 시작된 안전한 AI의 미래

현재 우리는 구글의 제미나이(Gemini)와 같은 AI 어시스턴트를 통해 글쓰기, 계획 세우기, 브레인스토밍 등 일상적인 도움을 받고 있습니다. [출처 7] 하지만 그동안 이러한 서비스 뒤편에서 정보가 어떻게 처리되는지에 대한 투명성은 늘 과제였습니다. ‘프라이빗 AI 컴퓨트’는 이 과제를 기술적으로 해결하며, AI가 더 폭넓게 우리 삶의 일부분이 될 수 있는 안전한 경로를 열어주고 있습니다.

이러한 보안 강화는 업계 전반의 흐름이기도 합니다. NEAR AI와 같은 기업들은 개인화된 추론을 위한 프라이빗 인프라를 구축하고 있고, 애플 또한 ‘프라이빗 클라우드 컴퓨트(Private Cloud Compute)’를 통해 보안 엔클레이브 내에서 데이터를 격리하는 방식을 구현하고 있습니다. [출처 5, 18]

앞으로 어떻게 될까요?

‘프라이빗 AI 컴퓨트’의 등장은 AI 서비스가 더욱 개인화되면서도 정보 보호 걱정은 줄어들 것임을 시사합니다. AI 비서는 이제 우리의 복잡한 업무 요청이나 은밀한 개인적 계획까지 안심하고 맡길 수 있는 진정한 의미의 ‘개인 비서’로 거듭날 것입니다.

클라우드 스토리지를 ‘안전한 금고’로 변모시키는 이러한 접근 방식은 AI 기술 발전과 개인 정보 보호라는 두 마리 토끼를 동시에 잡으려는 노력입니다. 기술이 발전할수록 우리의 사생활도 함께 보호받는 미래, 구글의 새로운 보안 설계가 우리에게 가져다줄 변화를 기대해 봅니다.

참고자료

[Source 1] AdvancingPrivateAIComputewithsecure,server-sidememory: https://deepmind.google/blog/advancing-private-ai-compute-with-secure-server-side-memory/
[Source 3] Chutes ServerlessAICompute: https://chutes.ai/
[Source 4] Supporting GooglePrivateAIComputewithPrivacy-Preserving Edge…: https://www.linkedin.com/posts/crmorrow_supporting-google-private-ai-compute-with-activity-7488244220584022016-JL3C
[Source 5] NEAR: The Currency of Agents: https://www.near.org/
[Source 6] Pixel 10aPrivacyandSecurityFeatures Breakdown Cape - Cape: https://www.cape.co/blog/pixel-10a-privacy-and-security-features
[Source 7] Google Gemini: https://gemini.google.com/
[Source 8] AIAcceleration with AMD Radeon™ Graphics Cards: https://www.amd.com/en/products/graphics/radeon-ai.html

[Source 12] Google Unveils Persistent Memory for Private AI Compute with On-Device Privacy