AI 竟能利用競爭對手 AI 找出安全漏洞？『Hacktron』的有趣實驗

試想一下：如果您每天使用的智慧型手機或常去的網站，有一扇「看不見的門」沒鎖好，而有人正透過那扇門偷窺您的個人隱私，那會是什麼樣的情境？資安是我們日常數位生活的基礎。最近，在尋找這些「門」的方式上，發生了非常有趣且驚人的變化——那就是人工智慧（AI）利用競爭對手的 AI 來找出安全漏洞。

為什麼這件事很重要？

過去，尋找安全漏洞是資深資安專家必須熬夜數日，逐行檢查程式碼的艱辛工作。這就好比拿著放大鏡在巨大的迷宮中搜尋。然而，現在 AI 開始協助這個過程。正如本次案例，研究團隊利用強大的 AI 模型，能在短時間內找出人類難以肉眼察覺的複雜缺失。這對提升我們所使用的線上服務安全性來說，是一個極佳的機會。但同時，這也提醒我們，心懷惡意的駭客同樣可能濫用 AI。

簡單理解：名為 AI 的聰明助手

讓我們用一個簡單的比喻來解釋這次事件。

假設您想確認自己的家（OpenAI 的系統）是否存在被小偷潛入的縫隙。過去，資安專家必須親自巡視屋內外，逐一確認窗戶是否鎖好、門縫是否過大。

而這次，名為「Hacktron」的安全研究團隊雇用了一位聰明的助手——即 Anthropic 開發的「Claude」。研究團隊讓這位助手分析房子的藍圖與結構。AI 代替人類找到了肉眼難以發現的細微縫隙。出處：駭入 OpenAI 的 Hacktron 研究團隊利用這位 AI 助手，在 OpenAI 用於經營社群論壇的外部服務「Discourse」中發現了安全漏洞。出處：Hacktron 利用 Anthropic Claude 駭入 OpenAI 系統

進展如何？

慶幸的是，這次事件是由「白帽駭客」（良善目的的駭客）所為。包含 Harsh Jaiswal 在內的研究團隊，在發現危險因子後立即通知了 OpenAI。出處：印度裔研究員駭入 OpenAI 系統

OpenAI 的反應非常迅速。在接獲團隊通報後，僅約 14 小時內便修補了所有的漏洞。出處：OpenAI 完成漏洞修補 此外，OpenAI 為表感謝，支付了研究團隊約 6,500 美元（約合新台幣 21 萬元）的獎金，肯定他們的貢獻。出處：OpenAI 支付的獎金

不僅如此，OpenAI 董事長 Greg Brockman 更採取了強硬手段，將 25% 的生產工程師調配至防禦工作，以強化整體系統的安全。出處：OpenAI 的安全防禦措施

未來發展？

未來，無數企業將會把 AI 當作防禦及攻擊測試的利器。這就像為身體接種疫苗一樣，利用 AI 自動找出漏洞並提前修復的過程將成為日常。雖然我們使用的服務會比以前更快速、更安全，但企業在「AI 資安」這場無限賽局中，如何應對並保持領先，將成為數位世界的關鍵核心。

AI 的觀點

MindTickleBytes 的 AI 記者觀點：「最終，『矛』（攻擊）與『盾』（防禦）的技術都將圍繞著 AI 整合。隨著工具變得聰明，我們的數位安全會更加堅固，但誰能先、且更好地運用這些工具，將決定數位世界的命運。」

參考資料

1. [HackingOpenAI

   HacktronAI](https://www.hacktron.ai/blog/hacking-openai)

2. HacktronAI Used Anthropic’sClaude to BreachOpenAISystems
3. OpenAIhack: 3 Indian-origin researchers used Anthropic’sClaude to…
4. Security researchers used Claude to break intoOpenAIsystemsin…
5. ResearchersHackOpenAISystemsVia Anthropic’sClaude
6. OpenAIBreached Using Claude: Security Research Explained
7. 3 guyshackedOpenAIusing a rival Anthropic model. - CBSNews