加拿大亞伯達省政府自 2025 年起,運用人工智慧「Claude Code」自動偵測並修復政府系統中的安全漏洞,藉此強化數位基礎設施。
試著想像一下。如果您是一座巨型圖書館的館長,館內有數萬本書,但您無法確切得知哪些書內容有誤或因老舊需要修繕,因為圖書館實在太大了。此時,若突然出現一位擁有神奇能力的 AI 助手,在瞬間瀏覽完所有書架找出問題書籍後,還能親自撰寫新內容補入,並確認內容無誤,那會是怎樣的情景?
這並非虛構故事。加拿大亞伯達省(Alberta)政府確實正在執行類似的工作。從 2025 年起,他們運用人工智慧技術,將政府的數位系統保護得更加安全。參考資料 3, 參考資料 5
為何這很重要?
我們正生活在「數位世界」中。政府系統承載了從市民個人資料到行政服務的所有內容。如果這裡出現安全漏洞,後果將不堪設想。傳統方式必須仰賴人類開發者逐一審查程式碼,這不僅非常耗時,也可能因人為疏失而遺漏重要的安全隱憂。
亞伯達省政府的案例之所以受矚目,是因為 AI 不僅停留在提供資訊的階段,而是已進入了親自「修復」問題的階段。這不僅大幅縮短了系統復原時間,更讓資安專家能夠專注於更重要的策略性決策。
輕鬆理解:AI 如何守護安全?
亞伯達省政府使用的工具是 Anthropic 開發的「Claude Code」。參考資料 2
簡單來說,AI 的角色可以比喻如下:
- 尋找漏洞(篩選):就像照片編輯軟體的「濾鏡」能過濾雜質,Claude 能在錯綜複雜的政府系統程式碼中,精準找出潛在的安全問題(漏洞)。
- 修復與測試(自動驗證):若發現需要修復的程式碼,Claude 就像在解數學題一樣,會編寫出合適的「修復程式碼」。此處驚人之處在於,如果系統中沒有用來確認修復成果的「正確答案(測試程式碼)」,該怎麼辦?Claude 會聰明地先行自行編寫測試程式碼,徹底檢查自己修復的程式碼是否會破壞系統的其他部分。參考資料 2
在此所使用的 Claude 大腦模型為「Opus」與「Sonnet」。參考資料 3 它們均為 Anthropic 的語言模型,具備高水準的程式編寫能力及複雜情境的推論能力。參考資料 8
現況:並非完美魔法,但卻是強大的助手
當然,AI 並非能解決所有問題的萬能魔法棒。
- 人類的介入(最終審核):目前 Claude Code 建議的補丁均設計為必須經過「人類審核」流程。參考資料 6 設有由人類進行最終確認的「安全帶」,以確保 AI 提出的方案確實安全妥當。
- 技術的擴展:並非所有系統都具備自動化測試環境。亞伯達省的案例展現了 AI 自行建立測試環境並向前邁進的進步樣貌,這對於測試基礎設施不足的其他機構也極具啟發性。參考資料 2
隨著偵測並修復安全漏洞的能力在全世界變得愈發重要,許多政府機構正爭相考慮導入運用 AI 的安全系統。參考資料 7
未來展望
專家們認為,未來政府很有可能將運用 AI 進行漏洞掃描與自動補丁,強制列入網路安全應對體系中。參考資料 7
我們已經告別了「由人編寫程式碼、由人確認、由人修復」的被動時代,正跨越到「由人向 AI 提出目標,AI 完成初步作業後,由人進行最後確認」的高效率時代。這種轉變將對打造更快速、更安全的線上行政服務做出極大貢獻。
AI 的視角(MindTickleBytes AI 記者觀點)
系統自我診斷疾病並編寫治療方案的景象,讓我們得以一窺網路安全的未來。然而,AI 越是聰明,最終判斷並負責該成果的人類角色就越發重要。隨著技術演進,「守護身為最終安全帶的人類」將比以往任何時刻都更為關鍵。
參考資料
- Claude Mythos - Wikipedia (https://en.wikipedia.org/wiki/Claude_Mythos)
- Government of Alberta uses Claude to find and fix cybersecurity vulnerabilities \ Anthropic (https://www.anthropic.com/news/alberta-government-claude-cybersecurity)
- More details on Fable 5’s cyber safeguards and our jailbreak framework \ Anthropic (https://www.anthropic.com/news/fable-safeguards-jailbreak-framework)
-
Disclosed CVEs: 3.5× Spike After Claude Mythos Epoch AI (https://epoch.ai/data-insights/cve-severity-spike) - Claude for Financial Services \ Anthropic (https://www.anthropic.com/news/claude-for-financial-services)
- Making frontier cybersecurity capabilities available to defenders \ Anthropic (https://www.anthropic.com/news/claude-code-security)
- AI has crossed a threshold – what Claude Mythos means for the future of cybersecurity (https://theconversation.com/ai-has-crossed-a-threshold-what-claude-mythos-means-for-the-future-of-cybersecurity-281308)
- Claude(AI) - Wikipedia (https://en.wikipedia.org/wiki/Claude_(language_model))
- Claude Mythos
- Claude Code
- Fable 5
- 生成漏洞修復程式碼
- 測試修復後的程式碼
- 直接刪除系統
- 在沒有測試的情況下套用補丁
- Claude 先自行編寫測試程式碼
- 中止工作