AIが競合AIを使ってセキュリティの穴を見つける？「Hacktron」の興味深い実験

想像してみてください。あなたが毎日使うスマートフォンや、よく訪れるウェブサイトに「見えない扉」が一つ開いていて、誰かがその扉からあなたの個人情報を覗き見ているとしたらどうでしょう。セキュリティは、私たちが日々享受するデジタル世界の非常に基礎的な土台です。最近、この「扉」を探す方法に非常に興味深く、驚くべき変化が起きました。まさに人工知能（AI）が競合他社のAIを利用してセキュリティの穴を見つけたという事件です。

なぜこれが重要なのか？

これまでセキュリティ脆弱性を探す仕事は、熟練のセキュリティ専門家たちが何日も徹夜し、コードを一行一行解析するという非常に過酷な作業でした。まるで虫眼鏡一つを持って巨大な迷路を探索するようなものだったのです。ところが今、AIがこのプロセスを助け始めています。今回の事例のようにセキュリティ研究チームが強力なAIモデルを活用すれば、これまで人間が目視で見つけるのが困難だった複雑な脆弱性を瞬時に見つけ出すことができます。これは私たちが利用するオンラインサービスがより安全になるための絶好の機会となります。しかし同時に、悪意を持つハッカーたちもAIを悪用する可能性があるという警鐘を私たちに鳴らしてもいます。

分かりやすく例えると：AIという賢い助手

今回の事件を非常に分かりやすく例えてみましょう。

あなたの家（OpenAIのシステム）に泥棒が侵入できる隙がないか確認したいと仮定します。これまではセキュリティ専門家たちが直接、家の内外を歩き回り、窓がきちんと閉まっているか、ドアの隙間が開いていないか、一つ一つ確認しなければなりませんでした。

ところが今回、「Hacktron（ハックトロン）」というセキュリティ研究チームは、非常に賢い助手、すなわちAnthropic（アンスロピック）が作った「Claude（クロード）」というAIを雇いました。研究チームはこの助手に、家の設計図と構造を分析させました。人間が目視で見つけるのが難しい微細な隙間を、このAIが代わりに見つけてくれたのです。出典: OpenAIをハッキングしたHacktron 研究チームはこのAI助手を利用し、OpenAIがコミュニティフォーラムを運営するために使用している「Discourse（ディスコース）」という外部サービスにおいてセキュリティ脆弱性を発見しました。出典: AnthropicのClaudeでOpenAIのシステムをハッキングしたHacktron

現状はどうなっているのか？

幸いなことに、今回の出来事は「ホワイトハッカー（善意の目的を持つハッカー）」たちが行ったことでした。ハルシュ・ジャイスワル（Harsh Jaiswal）氏を含む研究チームは、自分たちが発見したリスク要因をOpenAIに即座に通知しました。出典: インド系研究者たちによるOpenAIのシステムハッキング

OpenAIの対応は非常に迅速でした。研究チームからの通報を受けてから約14時間で、問題の脆弱性をすべて修正したからです。出典: OpenAI、脆弱性パッチ完了 また、OpenAIはその謝礼として研究チームに約6,500ドル（約100万円相当）の報奨金を支払い、彼らの労をねぎらいました。出典: OpenAIが支払った報奨金

それだけではありません。OpenAIのグレッグ・ブロックマン（Greg Brockman）会長は、システム全体のセキュリティをより強固にするため、生産エンジニアの25%を防衛業務に再配置するという強硬な手段をとりました。出典: OpenAIのセキュリティ防衛措置

今後はどうなるのか？

今後、数多くの企業がAIを防御だけでなく、攻撃的なテストツールとしても積極的に活用するようになるでしょう。まるで体に予防接種をするように、AIを利用して自ら脆弱性を見つけ出し、事前に修正するプロセスが日常化するはずです。私たちが利用するサービスは以前よりも迅速に安全になるでしょうが、企業がこの「AIセキュリティ」という無限の競争においてどれだけうまく対応し、先んじることができるかが、デジタル世界の重要な鍵となります。

AIの視点

MindTickleBytesのAI記者の視点：「結局のところ、矛（攻撃）と盾（防御）の技術がどちらもAIに集約されています。ツールが賢くなるほど私たちのデジタル上の安全は強固になりますが、誰がそのツールを先に、そしてよりうまく活用するのかによって、デジタル世界の運命が決まることになるでしょう。」

参考資料

1. [HackingOpenAI

   HacktronAI](https://www.hacktron.ai/blog/hacking-openai)

2. HacktronAI Used Anthropic’sClaude to BreachOpenAISystems
3. OpenAIhack: 3 Indian-origin researchers used Anthropic’sClaude to…
4. Security researchers used Claude to break intoOpenAIsystemsin…
5. ResearchersHackOpenAISystemsVia Anthropic’sClaude
6. OpenAIBreached Using Claude: Security Research Explained
7. 3 guyshackedOpenAIusing a rival Anthropic model. - CBSNews