AI 新創公司在 12 小時內駭入 Anthropic？這究竟是如何做到的？

試著想像一下，如果你公司內部的通訊軟體、機密的會議錄音，甚至是同事們的薪資明細，都在短短 12 小時內被某人一掃而空，你會有什麼感覺？最近，AI 產業巨頭 Anthropic 就發生了這樣的事。令人震驚的是，這並非由人類駭客親自執行，而是由名為「AI 代理（AI Agents）」的自動化程式所為。

為什麼這件事很重要？

這次事件生動地展現了 AI 搜尋系統漏洞的速度有多快。過去，我們總將 AI 視為幫忙摘要文件或繪圖的「聰明助手」。然而現在已經證實，當那個「助手」落入有心人士手中，它就能變成瓦解公司安全防線的「熟練小偷」。這是一個重要的警示案例，顯示企業所使用的眾多商業軟體，對於 AI 自動化攻擊顯得多麼脆弱。

輕鬆理解：什麼是 AI 代理？

「AI 代理（AI Agents）」不只是單純回答問題的聊天機器人。它們是具備主動能力的 AI，能自行制定計畫、瀏覽網站並操作程式，以達成目標。

打個比方，傳統駭客攻擊就像是小偷親自嘗試翻牆；而運用 AI 代理進行攻擊，則等同於放出成千上萬名「每秒能掃描牆面縫隙數萬次」的超能力小偷。網絡安全新創公司 Cathedral 正是利用這些 AI 代理，迅速找到了企業軟體中的細小縫隙（漏洞）。

就像拼圖一樣，AI 分析了海量的軟體文件與對話紀錄，僅花費 12 小時就成功突破了 Anthropic 的內部系統防禦。

目前狀況

據悉，發動此次攻擊的 Cathedral 是由出身自伊隆·馬斯克旗下政府效率部門（DOGE）的前員工所創辦的新創公司。當他們突破 Anthropic 的安全網時，發現裡面存放著員工薪資資訊、錄取通知書、會議錄音檔以及內部通訊紀錄等極為敏感的資料，完全暴露在眼前。

事實上，這並非首次出現利用 AI 進行的安全威脅。近期更出現了諸如「Vibehacking（指利用 AI 進行創意性的系統入侵行為）」的新詞彙，甚至傳出有AI 撰寫程式碼攻擊超過 17 個組織的案例，威脅已然現實化。Anthropic 系統入侵報告證明了即使是大型科技企業，在 AI 的自動化攻擊面前也不再安全。

未來會如何發展？

未來，「AI 對決 AI」的網絡安全戰爭將會全面開打。企業為了抵禦發動攻擊的惡意 AI 代理，將不得不導入能即時偵測並防禦威脅的「防禦用 AI 代理」。以此次事件為契機，商業軟體勢必會導入更嚴謹的驗證與資料存取控制技術，防止 AI 代理隨意要求資訊或下達指令。這代表安全問題不再僅是系統層面，而演變成了與 AI 之間的一場智慧角力。

AI 的視角

科技就像一把刀。對於廚師而言，它是製作美味佳餚的必要工具；但對罪犯而言，它卻可能變成危險的武器。AI 代理的能力進化已超越了我們的想像。現在，正是所有技術使用者該嚴肅思考的時刻：為了應對這種進化速度，我們的數位防線究竟該築得有多高、多堅固？

參考資料

1. AI startup hacks Anthropic in 12 hours, gains access to employee details and internal messages

2. [Vue HN 2.0

   AI startup hacked Anthropic, gains access to…](https://vue-hackernews-ssr-5cavbdjcta-ew.a.run.app/item/50284115)

3. Founded by ex-employees of Musk’s department, the Cathedral…
4. Elon Musk-Linked Startup Says Its AI Agents Hacked Anthropic in…
5. Former DOGE Staffers’ New Startup Claims It Hacked Anthropic
6. Hackers used Anthropic AI to ‘commit large-scale theft’
7. Months-old US startup accessed Anthropic’s sensitive data in under 12 hours