私のコードがAIサーバーに密かに送信されていた？『グロック・ビルド（Grok Build）』セキュリティ騒動の全容

想像してみてください。あなたは自宅のパスワードを書いたメモをタンスの奥深くに隠しておいたのに、掃除サービスを呼んだ途端、掃除機がタンスの中身をすべて吸い出し、業者の金庫へ持ち去ってしまった状況を。

最近、多くの開発者がAIコーディングアシスタントとして使用しているxAIの「グロック・ビルド（Grok Build）CLI」ツールにおいて、これと似たようなセキュリティ問題が発見され、大きな論争となっています。AI Weeklyによると、このツールは「ローカルファースト（ローカル環境で直接実行されるという意味）」という宣伝文句とは裏腹に、ユーザーのGitリポジトリ全体のコンテンツを密かに特定のクラウドサーバーへ送信していました。

なぜこれが重要なのか？

この問題は単に「コードを少し持ち去られた」というレベルを超えています。社内コードや顧客の個人情報が含まれる機密ファイル、さらにはサービス接続のための「秘密鍵（.envファイルなど）」までが、AI企業のサーバーへ渡ってしまったことを意味します。byteiotaは、このツールがユーザーがAIに見せたくなかったファイルまで全てを掻き集めていたと指摘しました。

開発者にとってコードは資産であり、知的財産です。許可のないデータ収集は企業のセキュリティポリシーを真っ向から違反する行為であり、万が一この情報がハッキングや流出に遭った場合、想像を絶するセキュリティ事故につながる恐れがあります。GIGAZINEは、このツールがユーザーの明示的な同意なしにコードを収集していた点を最も深刻な問題として挙げています。

簡単に言うと

この現象を身近な例に例えてみましょう。あなたが写真編集アプリを使っていると想像してください。編集したい写真だけを選んで補正したいのに、このアプリが写真を開くたびに、あなたのスマホにある「すべての写真」をクラウドサーバーへ丸ごとコピーして送信するようなものです。GitHubのセキュリティ分析結果によると、グロック・ビルドツールはAIが作業のためにファイルを読み込んだかどうかに関わらず、現在の作業フォルダにあるすべてのファイルとGitの全履歴を「grok-code-session-traces」という名前のクラウドストレージへアップロードしていました。Hasty Briefsは、この過程で機密性の高いセキュリティキーまで別のルートを通じて一緒に送信されていたと分析しています。

現在の状況は？

セキュリティ専門家による分析と公開告発が続いた結果、国際サイバーダイジェスト（International Cyber Digest）は、このアップロードが隠されていたサーバー側の設定を通じて停止されたと発表しました。しかし、ユーザーの不安は依然として消えていません。xAI側が、これらのデータがなぜ、どのように収集されたのか、そしてすでにサーバーへ渡ったコードを安全に削除してくれたのかについて、公式な立場を全く示していないためです。ABAB Newsでもこの点を指摘し、ユーザーの懸念が高まっていると伝えています。

今後はどうなるのか？

今回の事態をきっかけに、開発者は外部から導入するAIツールを使用する際、より厳格なセキュリティ確認プロセスを経るようになるでしょう。wetlinkのようなオープンソースプロジェクトでは、ユーザーデータを守るための「キルスイッチ（問題発生時に機能を強制的に停止する安全装置）」を自ら開発して対応しています。今後は企業がAIツールを導入する際、内部セキュリティ監査をさらに強化することになり、xAIのようなサービス提供業者は透明性を立証できなければ、ユーザーの信頼を回復することは難しいと思われます。

MindTickleBytesのAI記者からの視点

技術は便利ですが、その裏でどのようなデータが行き交っているのか分からないことは、ユーザーにとって常に大きなリスクです。特にコードのような重要な資産を扱うツールであれば、「信頼」を基盤に運営されるべきです。xAIは今回の事態についてより透明性を持って対話し、ユーザーのコードに対して責任ある措置を講じるべきです。

参考資料

1. [xAI Grok CLI Uploads Full Repos and Secrets, Opt-Out Ignored

   AI Weekly](https://aiweekly.co/alerts/xai-grok-cli-uploads-full-repos-and-secrets-opt-out-ignored)

2. What xAI Grok Build CLI actually sends to xAI - a wire-level analysis (grok 0.2.93) · GitHub
3. International Cyber Digest on X: “‼️ BREAKING: xAI’s Grok Build CLI was uploading entire Git repositories to a Google Cloud bucket, private codebases and unredacted secrets included…”

4. [Grok Build CLI Uploads Your Entire Repo to xAI Servers

   byteiota](https://byteiota.com/grok-build-cli-uploads-repo-xai-servers/)

5. Grok Build CLI Exposed for Uploading Complete Repositories and Sensitive Files - ABAB News
6. GitHub - cereblab/grok-build-exfil-repro
7. Grok Build CLI Repository Uploads, What the Wire Capture Proved
8. GitHub Gist

9. [What xAI’s Grok Build CLI Actually Sends to xAI

   Hasty Briefs](https://hb.int2inf.com/en/s/item/A8Cux9a7WKyFuJcdKfPNER-Grok-Build-CLI-data-exfiltration-analysis)

10. xAI’s Grok CLI Reportedly Uploads User Codebases and Keys …
11. Investigations reveal that Grok Build transmitted… - GIGAZINE
12. wetlink/grok-build-privacy-hardening