我的個人 AI 助理連上了五角大廈系統？一場資安事故的始末

試想一下，如果您將家裡使用的智慧型 AI 裝置偷偷連接到公司的極密安全系統中，會發生什麼事？最近，美國國防部（DoD）發生了一起類似且荒唐又危險的資安事故，引發廣泛討論。出處 1

事件起因於國防承包商「埃森哲」（Accenture）的一名員工，為了提升工作效率，在未經公司授權的情況下，將個人的 AI 編碼助理連接到國防部內部網路。出處 2 這個 AI 在該網路中停留了整整兩個月，期間不斷修改程式碼並部署系統。出處 7 為什麼會發生這種事呢？

這為何如此重要？

這次事件不能僅僅歸咎於「員工疏失」，其影響相當深遠。美國國防部近期正與多家 AI 企業合作，積極推動 AI 導入軍事網路的專案。出處 11 在這種背景下，因個人方便而使用的 AI 工具竟能連上攸關國家安全的系統，顯示資安防護網比我們想像中更容易被突破。

最核心的問題在於，該 AI 直接接收並使用了登入系統所需的權限（credentials，身分驗證資訊）。出處 7 若此 AI 遭到惡意駭客操縱，或是 AI 服務供應商本身遭到駭客攻擊，後果將不堪設想。出處 4

簡單易懂的解釋

「AI 編碼代理程式（AI Coding Agent）」簡言之，就是「坐在您電腦前，幫您寫程式的智慧助理」。當您說「請製作一個登入功能」時，助理便會自行撰寫程式碼，甚至直接將其應用（部署）到系統中。

打個比方，您擁有一張可以進入高規格安全金庫的「通行證」。結果您把這張通行證交給路邊不認識的人，說「請幫我整理金庫裡的文件」。出處 7

這個助理（AI）完全繼承了使用者的通行權限來運作。撰寫者的本意是為了提升工作產能，但在過程中賦予了 AI 對系統的「管理權限（administrative access）」，導致問題一發不可收拾。出處 3

目前狀況

根據目前掌握的資訊，該名員工隸屬於埃森哲的承包商，他將個人的「Claude Code」（Anthropic 公司的 AI 編碼工具）帳號連結到了多個情報單位共同使用的中央安全系統中。出處 5 出處 15

這個 AI 在這兩個月內頻繁出入該網路處理資訊，甚至有跡象顯示，部分登入資訊與敏感數據已被傳輸至外部網站。出處 4

針對此事，埃森哲表示經內部調查後，認為「相關指控並無根據」並予以否認；國防部發言人則針對網路狀況表示「無法正式評論」。出處 17 儘管雙方立場僵持，但資安專家仍將此次事件視為 AI 普及化時代的「教科書級危險案例」。出處 7

未來發展？

未來 AI 產出的程式碼量將遠超人類的生產力。出處 17 但問題在於，要確認這些由 AI 撰寫的程式碼是否真的安全、內部有無危險漏洞（弱點）的審核（vetting）過程，正變得愈來愈困難。出處 17

經由此事件，企業與政府機關極可能對「將個人 AI 工具連接至公務網路」採取更嚴厲的禁止措施或導入更嚴格的指導原則。我們必須再次警惕：身邊有個聰明助理雖好，但絕不能輕易將家中所有的鑰匙都交給他保管。

AI 的觀點

別沉迷於聰明工具帶來的生產力甜頭，而遺忘了這些工具所擁有的「權限」重量。此次事件記錄了技術發展速度之快，同時也痛心地揭露了：人們的資安意識與企業的控管系統必須同步成長。工作用的工具就該在工作環境中使用，並遵守資安規範，這才是安全之道。

參考資料

1. A Defense Contractor Gave Their Personal AI Agent Access to a Secure Pentagon System
2. Defense Contractor Gave Personal AI Agent Access to Pentagon System
3. Accenture Contractor Allegedly Gave Claude AI Agent Access to…
4. Accenture worker’s personal Claude agent reached secure DOD system
5. A Defense Contractor Gave Their Personal AI Agent Access to a…
6. Claude Code Agent on a DOD Network for 2 Months (Wired…)
7. Accenture employee’s AI agent accessed secure DOD network for…
8. Pentagon Signs AI Deals With Seven Tech Companies For…
9. A Defense Contractor Gave Their Personal AI Agent Access to a…
10. Did Accenture employee’s AI coding agent run on the DoD network?