AIスタートアップが12時間でAnthropicをハッキング？その仕組みとは

By Gi Pyeong Lee
AIセキュリティ Anthropic AIエージェント ハッキング サイバーセキュリティ
デジタル回路とAIのニューラルネットワークが重なり合い、セキュリティの脅威を象徴する抽象的なグラフィック
AI Summary

サイバーセキュリティスタートアップのCathedralが、AIエージェントを駆使してわずか12時間でAI企業Anthropicの内部システムに侵入し、給与や内部メッセージ情報を奪取した事件を分析します。

想像してみてください。あなたが勤務する会社の内部メッセンジャー、秘密の会議録音、さらには同僚の給与明細まで、誰かがわずか12時間ですべて盗み出したとしたら、どんな気持ちでしょうか。最近、AI業界の巨人であるAnthropicでまさにこのような事件が発生しました。驚くべき点は、人間が直接ハッキングしたのではなく、「AIエージェント」という自動化プログラムが行ったという事実です。

これがなぜ重要なのか？

今回の事件は、AIがいかに素早く私たちのシステムの隙を見つけ出せるかを如実に示しています。これまで私たちはAIを、文書を要約したり絵を描いたりする「賢い秘書」程度にしか考えてきませんでした。しかし今、その「秘書」が悪意ある人の手に渡れば、会社のセキュリティの壁を崩す「熟練の泥棒」になり得るという事実が証明されたのです。これは、企業が利用する数多くのビジネスソフトウェアが、AIの自動化された攻撃にいかに脆弱であるかを警告する重要な事例です。

わかりやすく解説：AIエージェントとは？

「AIエージェント（AI Agents）」とは、単に質問に答えるだけの一般的なチャットボットではありません。彼らは自ら計画を立て、ウェブサイトを巡回し、プログラムを操作して目標を達成する能動的な人工知能です。

簡単に例えると、従来のハッキング手法が泥棒が直接塀を乗り越えようと苦心するプロセスだったとすれば、AIエージェントを活用した攻撃は「塀のあらゆる隙間を1秒に数万回ずつスキャンできる超能力を持つ泥棒」を何千人も放つようなものです。サイバーセキュリティスタートアップのCathedralは、まさにこのAIエージェントを利用して企業向けソフトウェアの小さな隙間（脆弱性）を瞬時に見つけ出しました。

まるでパズルを合わせるかのように、AIは数多くのソフトウェアの文書や会話記録を分析し、わずか12時間でAnthropicの内部システム防御壁を突破することに成功したのです。

現在の状況

今回の攻撃を主導したCathedralは、イーロン・マスク氏に関連する政府効率化省（DOGE）出身者が設立したスタートアップとして知られています。彼らがAnthropicのセキュリティ網を突破した際、そこには従業員の給与情報、採用提案書、会議録音、内部メッセンジャーの記録など非常に機密性の高いデータがそのまま露出していました。

実はAIを活用したセキュリティ脅威は、今回が初めてではありません。最近ではAIが17以上の組織をハッキングするためのコードを作成するなど、いわゆる「バイブハッキング（vibehacking、AIを活用して創造的にシステムに侵入する行為）」という新語まで登場し、その脅威が現実化しています。Anthropicのシステム侵入報告書は、もはや巨大IT企業でさえもAIの自動化された攻撃の前では安全ではないという事実を証明しています。

今後はどうなるのか？

今後は「AI対AI」のセキュリティ戦争が本格化するでしょう。企業はハッキングを試みる攻撃用AIエージェントを防ぐために、リアルタイムで脅威を検知し防御する「セキュリティ用AIエージェント」を導入せざるを得ない状況となりました。今回の事件を機に、ビジネスソフトウェアはAIエージェントが勝手に情報を要求したり命令を下したりできないよう、より強力な認証とデータアクセス制御技術を導入するものと見られます。これはセキュリティが単なるシステムの課題ではなく、今やAIとの知的な頭脳戦になったことを意味します。

AIの視点

テクノロジーは、まるで刃物のようなものです。料理人にとっては美味しい料理を作る必須ツールですが、犯罪者にとっては脅威的な武器になり得るからです。AIエージェントの能力は、すでに私たちが想像する以上へと進化しました。今やその進化のスピードに合わせて、私たちのデジタルな塀をどれほど高く、強固に築かなければならないのか、テクノロジーを利用するすべての人々が真剣に悩むべき時です。

参考資料

  1. AI startup hacks Anthropic in 12 hours, gains access to employee details and internal messages
  2. [Vue HN 2.0 AI startup hacked Anthropic, gains access to…](https://vue-hackernews-ssr-5cavbdjcta-ew.a.run.app/item/50284115)
  3. Founded by ex-employees of Musk’s department, the Cathedral…
  4. Elon Musk-Linked Startup Says Its AI Agents Hacked Anthropic in…
  5. Former DOGE Staffers’ New Startup Claims It Hacked Anthropic
  6. Hackers used Anthropic AI to ‘commit large-scale theft’
  7. Months-old US startup accessed Anthropic’s sensitive data in under 12 hours
AD
この記事の理解度チェック
Q1. 今回のハッキング事件で、攻撃に用いられた核心技術は何ですか？
  • 伝統的なフィッシングメール
  • AIエージェント(AI Agents)
  • 手動でのソフトウェア・リバースエンジニアリング
Cathedralというスタートアップは、AIエージェントを活用して企業向けソフトウェアの脆弱性を自動的に探索し、攻撃を行いました。
Q2. ハッキングの試みからAnthropicの内部システムへの侵入までにかかった時間はどれくらいですか？
  • 1時間以内
  • 12時間未満
  • 約3日
報道によると、ハッキングの試みから機密データにアクセスするまで12時間とかかりませんでした。
Q3. 今回の事件でAnthropicから流出した情報ではないものはどれですか？
  • 内部メッセンジャーおよび会議録
  • ユーザーの決済カード情報
  • 従業員の給与情報および採用提案
今回の事件では従業員の給与、採用情報、内部会議録およびメッセンジャー記録が奪取されましたが、ユーザーの決済カード情報の流出は報告されていません。