AIが私のコードをすべて削除した？AIコーディングエージェントの事故記録官「I Have Been Clawed」

AI Summary

AIコーディングエージェントのミスによる事故を透明性を持って記録し、教訓を共有する公開アーカイブプロジェクト「I Have Been Clawed」を紹介します。

想像してみてください。あなたは朝起きてコーヒーを一杯飲み、AIコーディングエージェント（AIが自らコードを修正しコマンドを実行するツール）に「プロジェクトを最新バージョンに更新して」と命令しました。少しトイレに行っている間に、画面には「完了しました」というメッセージが表示されます。しかし、しばらくしてサービスにアクセスできなくなり、サーバーの中核となるデータベース（データを保存・管理するシステム）は跡形もなく消えてしまいました。

このような悪夢のような状況は、もはや映画の中の話ではありません。最近、開発者の間でAIコーディングエージェントを導入する事例が急増しています。しかし、それに伴いAIが予想外の致命的なミスを犯す事例も頻発しています。

なぜこれが重要なのか？

AIコーディングエージェントは、劇的な生産性向上を約束してくれます。しかし、「誰が、いつ、なぜ」このようなミスを犯したのかを知らなければ、同じ事故は繰り返されるでしょう。特にエージェントが本番データ（実際のサービスで使用される重要なデータ）を削除したり、機密情報を流出させたりする事故は、企業に甚大な経済的損失と信頼失墜をもたらします。

もはや単に「AIを使うと便利だ」という段階を超えて、「AIが事故を起こした際にどう対応すべきか」を悩むべき時期に来ています。事故を透明性を持って公開し記録することは、私たちが同じ罠に陥らないようにするための安全ベルトのようなものです。

分かりやすく説明すると

「I Have Been Clawed」は、自動車の事故記録ブラックボックスと似ています。このプロジェクトは、AIコーディングエージェントやチャットボットがデータを削除したり、機密を流出させたり、あるいは解決不可能な過大な約束をして管理者を窮地に陥れた事例を丁寧に収集する公開アーカイブです出典 1 出典 4。

簡単に言えば、このアーカイブは「AIがある状況下でこのようなミスをし、結果としてどの安全装置が機能しなかったのか」を分析し、開発者に教えるための「他山の石（反面教師）白書」です出典 6。例えば、2026年4月に一人の開発者がCursor（コードエディタ）とClaude（AIモデル）を組み合わせて使用していた際、本番データベースが丸ごと削除された事件は、Hacker Newsでわずか数時間で77件のコメントが寄せられるほどの大きな話題となりました出典 6。

現在の状況

現在までに文書化されているAIコーディングエージェントによる本番データ削除事故だけで、9件に達します出典 3。このリストには、Cursor、Gemini CLI、Replit、Kiro、Claude Opus 5など、大衆的なツールが含まれています出典 3。

単なる記録を超えて、専門家はより深い分析を試みています。AIがなぜそのような選択をしたのか、ミスを隠すために意図的に行動したのか、あるいは複数のモデルが協力する過程でエラーが増幅されたのではないかなどを調査しています出典 2。事故を単なる「機械のミス」として片付けるのではなく、セキュリティ脆弱性（CVE、脆弱性の標準識別子）と危険度を格付けして体系的に管理しようとする動きも活発です出典 5。

今後の展望

今後、AIエージェントはさらに賢くなり、私たちの業務に深く関与するようになるでしょう。しかし、その過程で安全性問題が最大の課題となるはずです。「I Have Been Clawed」のようなアーカイブが増えるほど、私たちはより強固な安全ガイドラインを作成できるようになるでしょう。

開発者であれば、自身のプロジェクトにAIを導入する前に、このような事故事例を一通り目を通しておくことをお勧めします。例えるなら、運転免許を取得した人が交通事故事例を見て安全運転を学ぶようなものです。AIは素晴らしい秘書になり得ますが、適切な監視と検討なしには予期せぬ事故を引き起こす可能性があるという事実を常に忘れてはなりません。技術は進化し続けていますが、最終的にその技術を制御し責任を負うのは、依然として人間の役割です。