AIがPCを監視？『フィードバック』ボタンが日記帳に変わる瞬間

想像してみてください。あなたの業務を完璧にサポートしてくれる優秀な秘書がいるとします。朝起きたら今日やるべきタスクをきれいに整理してくれ、あなたが眠っている間には溜まっていたデータ分析を終えてくれる。この秘書は、あなたのPC内の文書を直接読み取ることもでき、代わりにWebサイトにアクセスして必要な情報を探してくることもできます。Moonshot AI（문샷 AI）が披露したデスクトップAIエージェント、「Kimi Work」がまさにそのような存在です [Source 6]。

しかし、もしこの秘書があなたの日記をこっそり盗み読みし、その内容を会社本社に送る報告書にこっそり紛れ込ませていたとしたらどうでしょうか？最近、セキュリティ専門家たちがKimi Workの動作方式から、かなり衝撃的な事実を発見しました。

なぜこれが重要なのか？

AIエージェントは、私たちのPCの奥深くまでアクセスする権限を持ちます。ローカルファイルを直接読み取り、Webブラウザを制御し、さらには指定された時間に自律的にタスクを遂行する能力まで備えています [Source 6, Source 12]。これは業務効率を最大化してくれますが、それに見合う強力なセキュリティ責任が伴う仕事でもあります。

ユーザーは通常、エラーに遭遇して「フィードバック送信」ボタンを押す際、自分が直面した状況やスクリーンショット程度が共有されると考えています。しかし、Kimi Workはこのプロセスにおいて、ユーザーへの告知なしに直近の対話内容まで一緒に送信していました。これはプライバシー保護の観点から大きな懸念を生みます。あなたがAIと交わした機密性の高い業務資料や個人的な対話内容が、開発元のサーバーへ無自覚に流出する可能性があるためです。

分かりやすく例えると：「秘書の報告書」

この状況を日常の例えで説明してみましょう。あなたは秘書に「今日の報告書作成中に、ファイルが一つうまく開けません」とフィードバックを送りました。あなたは単純にその問題状況だけが伝わると信じていました。しかし、この秘書は会社本社へ報告書を送る際、その中にあなたが過去数日間書き溜めていた日記（直近の対話セッション5件）を丸ごとコピーして添付したようなものです。

Moonshot AIがユーザーの不便を解消するためにフィードバックデータを収集するという意図は理解できます。しかし、そのプロセスが透明ではないことが核心的な問題です。ユーザーは、自分が何を共有しているのかさえ知らない状態で、大切なデータを送信することになってしまうからです。

現在の状況

Kimi WorkはMoonshot AIの強力なAIモデルである「Kimi K2.6」をベースとしており、約300ものサブエージェント群（swarm）が協力し合う形態のデスクトップエージェントです [Source 5, Source 6]。WindowsとmacOSの両方をサポートしており、cron（Linux/Unix系のジョブスケジューラ）ベースの計画機能により、ユーザーが眠っている間もタスクを処理します [Source 6, Source 12]。

しかし、最近のリバースエンジニアリング（ソフトウェアの内部構造や動作原理を解析する作業）によって明らかになったところによれば、ユーザーがフィードバックレポートを送る際、別途の案内なしに直近5件のセッションデータを一緒に添付していることが分かりました [Source 1]。これは技術的な利便性を追求する過程で、ユーザーのプライバシーが後回しにされた典型的な事例と言えます。

今後どうなるのか？

AI技術はますますパーソナライズされ、より多くの権限を要求する方向に発展しています。しかし、その分だけユーザーの信頼が何よりも重要になる時期です。今回の問題は、AI開発元がユーザーのデータをどのように扱い、どれだけ透明に公開しているかについて、大きな警鐘を鳴らしています。

今後Kimi Workを使用される際は、「フィードバック」ボタンを押す前に、機密情報を含む対話内容が直近に含まれていないか、今一度検討すべきでしょう。また、ユーザーはAIエージェントがどのようなデータをどこまで送信するのかを直接設定できる権限を、より強く要求しなければなりません。

MindTickleBytesのAI記者視点

技術の利便性は、往々にしてセキュリティという代償を要求します。しかし、その代償がユーザーの明確な事前同意なしに支払われてはなりません。真に「優秀なAI」であるならば、ユーザーが何を共有するのかを自ら制御できるよう手助けすべきではないでしょうか？ユーザーのプライバシーは、技術発展のための犠牲になってはなりません。

参考資料

1. KimiWork attaches raw agent sessions to feedback reports
2. KimiWork
3. KimiCode CLI: How to Install and Run Moonshot’s Agentic Coding…
4. GitHub - MoonshotAI/Kimi-K3: Open Frontier Intelligence · GitHub

5. [KimiWork: Moonshot’s Local AI Agent Guide

   Lushbinary](https://lushbinary.com/blog/kimi-work-local-ai-agent-knowledge-workers-guide/)

6. Moonshot AI’s KimiWork Brings 300 AI Agents to Your… - Decrypt
7. KimiK3 за $29: китайские тарифы, KimiCode… - YouTube
8. Kimi API Platform
9. GitHub - MoonshotAI/kimi-code: KimiCode CLI — The Starting Point…

10. [KimiWork - Nowledge Mem Integration

    Nowledge Mem](https://mem.nowledge.co/integrations/kimi-work)

11. Вышел KimiWork — ИИ-агент, который работает без сна / Хабр