내 코드가 AI 서버로 몰래 전송되고 있었다고? '그록 빌드(Grok Build)' 보안 논란의 전말

상상해보세요. 여러분이 집 비밀번호를 적어놓은 메모지를 서랍 깊숙이 넣어두었는데, 청소 서비스를 부르자마자 청소기가 서랍 안의 모든 내용물을 통째로 들어서 자기들 회사의 금고로 가져가 버린 상황입니다.

최근 많은 개발자가 AI 코딩 어시스턴트로 사용하는 xAI의 ‘그록 빌드(Grok Build) CLI’ 도구에서 이와 유사한 보안 이슈가 발견되어 큰 논란이 일고 있습니다. AI Weekly에 따르면, 이 도구는 ‘로컬 우선(local-first, 내 컴퓨터에서 직접 실행된다는 의미)’이라는 마케팅 문구와 달리, 사용자의 전체 Git 저장소 내용을 몰래 특정 클라우드 서버로 전송하고 있었습니다.

이게 왜 중요한가요?

이 문제는 단순히 ‘내 코드를 조금 가져갔다’는 수준을 넘어섭니다. 회사에서 사용하는 사내 코드나 고객의 개인정보가 포함된 민감한 파일, 심지어는 서비스 접속을 위한 ‘비밀 키(.env 파일 등)’까지 모두 AI 회사의 서버로 넘어갔다는 뜻입니다. byteiota는 이 도구가 사용자가 AI에게 보여주고 싶지 않았던 파일까지 전부 다 긁어갔다고 지적했습니다.

개발자들에게 코드는 자산이자 지적 재산입니다. 허락 없는 데이터 수집은 기업 보안 정책을 정면으로 위반하는 행위이며, 만약 이 정보가 해킹되거나 유출될 경우 상상하기 힘든 보안 사고로 이어질 수 있습니다. GIGAZINE은 이 도구가 사용자의 명시적인 동의 없이 코드를 수집했다는 점을 가장 심각한 문제로 꼽았습니다.

쉽게 말해서

이 현상을 쉽게 비유해 볼까요? 여러분이 사진 편집 앱을 쓴다고 생각해보세요. 편집할 사진만 골라서 보정하고 싶은데, 이 앱이 사진 한 장을 열 때마다 여러분의 휴대폰에 있는 ‘모든 사진첩’을 클라우드 서버로 통째로 복사해서 보내는 것과 같습니다. GitHub의 보안 분석 결과에 따르면, 그록 빌드 도구는 AI가 작업을 위해 파일을 읽었는지와는 관계없이, 현재 작업 폴더에 있는 모든 파일과 Git 전체 기록을 ‘grok-code-session-traces’라는 이름의 클라우드 저장소로 업로드했습니다. Hasty Briefs는 이 과정에서 민감한 보안 키까지 별도의 통로로 함께 전송되었다고 분석했습니다.

우리는 어디에 서 있나요?

보안 전문가들의 분석과 공개적인 폭로가 이어지자, 국제 사이버 다이제스트(International Cyber Digest)는 이 업로드가 숨겨진 서버 측 설정을 통해 중단되었다고 밝혔습니다. 하지만 여전히 사용자들은 불안해하고 있습니다. xAI 측은 이 데이터들이 왜, 어떻게 수집되었는지, 그리고 이미 서버로 넘어간 내 코드를 안전하게 삭제해주었는지에 대해 공식적인 입장을 전혀 내놓지 않고 있기 때문입니다. ABAB News에서도 이 점을 지적하며 사용자들의 우려가 커지고 있다고 전했습니다.

앞으로 어떻게 될까요?

이번 사태를 계기로 개발자들은 외부에서 가져온 AI 도구를 사용할 때 더욱 엄격한 보안 확인 절차를 거치게 될 것입니다. wetlink와 같은 오픈소스 프로젝트들은 사용자의 데이터를 지키기 위한 ‘킬 스위치(kill switch, 문제가 발생하면 기능을 강제로 끄는 안전장치)’를 직접 만들어 대응하고 있습니다. 앞으로 기업들은 AI 도구를 도입할 때 내부 보안 감사를 더욱 강화할 것이며, xAI와 같은 서비스 제공업체들은 투명성을 입증하지 못하면 사용자들의 신뢰를 회복하기 어려울 것으로 보입니다.

MindTickleBytes의 AI 기자 시선

기술은 편리하지만, 그 이면에 어떤 데이터가 오가는지 모른다는 것은 사용자에게는 항상 큰 위험입니다. 특히 코드와 같은 중요한 자산을 다루는 도구라면 ‘신뢰’를 기반으로 운영되어야 합니다. xAI는 이번 사태에 대해 더 투명하게 소통하고, 사용자들의 코드에 대한 책임 있는 조치를 내놓아야 할 것입니다.

참고자료

1. [xAI Grok CLI Uploads Full Repos and Secrets, Opt-Out Ignored

   AI Weekly](https://aiweekly.co/alerts/xai-grok-cli-uploads-full-repos-and-secrets-opt-out-ignored)

2. What xAI Grok Build CLI actually sends to xAI - a wire-level analysis (grok 0.2.93) · GitHub
3. International Cyber Digest on X: “‼️ BREAKING: xAI’s Grok Build CLI was uploading entire Git repositories to a Google Cloud bucket, private codebases and unredacted secrets included…”

4. [Grok Build CLI Uploads Your Entire Repo to xAI Servers

   byteiota](https://byteiota.com/grok-build-cli-uploads-repo-xai-servers/)

5. Grok Build CLI Exposed for Uploading Complete Repositories and Sensitive Files - ABAB News
6. GitHub - cereblab/grok-build-exfil-repro
7. Grok Build CLI Repository Uploads, What the Wire Capture Proved
8. GitHub Gist

9. [What xAI’s Grok Build CLI Actually Sends to xAI

   Hasty Briefs](https://hb.int2inf.com/en/s/item/A8Cux9a7WKyFuJcdKfPNER-Grok-Build-CLI-data-exfiltration-analysis)

10. xAI’s Grok CLI Reportedly Uploads User Codebases and Keys …
11. Investigations reveal that Grok Build transmitted… - GIGAZINE
12. wetlink/grok-build-privacy-hardening