窺探電腦密碼的 AI「助手」？駭客手中的雙面刃

한국어 English 日本語 简体中文 繁體中文
By Gi Pyeong Lee
AI安全 網路安全 Google DeepMind 人工智慧威脅 技術分析
一名人物在黑暗房間中坐在筆記型電腦前，背景是流動的數位數據與人工智慧視覺化形象
AI Summary

研究報告顯示，雖然目前的 AI 尚無法自主研發新型駭客技術，但已成為協助新手駭客發動大規模攻擊的有力工具。

想像一下，過去一名新手駭客可能需要花費數月學習程式碼並親自尋找複雜系統的漏洞。但現在，這名駭客只需隨口詢問 AI：「這個網站最脆弱的部分在哪？順便幫我寫一萬封看起來很真實的釣魚郵件發給使用者。」AI 僅需幾秒鐘就能產出語句通順、極具說服力的假郵件。這簡直就像有一位資深駭客在旁進行一對一指導。

AI 逐漸成為駭客的「自動化工具」與「邪惡助手」，這一幕正變為現實。最近，由 Google DeepMind 領銜的全球研究團隊發表了關於尖端 AI 對網路安全影響的研究結果，並提出了一套用於提前偵測並阻斷攻擊的新型評估體系。 Building secure AGI: Evaluating emerging cyber security capabilities of advanced AI — Google DeepMind

為什麼這很重要？

網路安全的世界現在就像一盤巨大的棋局。隨著 AI 這個新棋子的加入，遊戲規則正在發生改變。最大的隱憂在於，過去僅屬於少數受過高度訓練的專家領域的精確駭客技術，可能透過 AI 實現所謂的「民主化」。 What Are the Predictions of AI In Cybersecurity? - Palo Alto Networks

簡單來說，即使是缺乏駭客技術的人，也能藉由 AI 這個強大的「助推器」發動大規模攻擊。比喻來說，以前需要一筆一畫親手偽造鈔票，現在則是獲得了一台性能優異的彩色影印機。這使得個人資訊乃至國家核心基礎設施面臨的威脅規模與速度，正飆升至前所未有的水平。

衡量 AI「負面能力」的新標準

為了系統性地掌握 AI 可能成為多麼危險的駭客，研究人員建立了一套基於實際數據的綜合評估體系。這體現了「知己知彼，百戰百勝」的策略。

12,000 件真實犯罪現場分析

研究團隊不只是發揮想像力。他們深入解剖了 Google 威脅情報小組（Threat Intelligence Group）實際記錄的 12,000 多件網路安全事故案例。 A Framework for Evaluating Emerging Cyberattack Capabilities of AI 透過分析駭客實際的入侵路徑與手段，確認 AI 在這些過程中的哪些階段能提供最大的協助。 A Framework for Evaluating Emerging Cyberattack Capabilities of AI

7 種攻擊情境與 50 項測試題目

研究人員將駭客攻擊的全過程整理為 7 種典型模型（Archetypes）。 A Framework for Evaluating Emerging Cyberattack Capabilities of AI 為了衡量 AI 在各階段協助攻擊的聰明程度，他們設計了 50 項棘手的基準測試（Benchmark）任務。 A Framework for Evaluating Emerging Cyberattack Capabilities of AI 這被認為是目前最細緻且最具實務價值的評估工具。 Evaluating potential cybersecurity threats of advanced AI

現狀：尚未成為「天才駭客」，但切勿掉以輕心

那麼，現在的 AI 是否能立刻突破所有安全防線並引發世界混亂？幸運的是，研究結果顯示，目前的 AI 模型在隔離狀態下自主發明全新駭客技術的「天才駭客」級能力尚處於較低水平。 Building secure AGI: Evaluating emerging cyber security capabilities of advanced AI — Google DeepMind 然而，已有幾個警示燈亮起，值得我們密切關注。

1. 潛伏入侵：偵測規避與持續性

過去的安全評估主要集中在「如何破門而入（入侵）」。但 Google DeepMind 發現，駭客進入後如何隱藏行蹤的偵測規避（Evasion），以及瞞著屋主長期停留的持續性（Persistence）階段，在評估中經常被遺漏。這意味著防止小偷躲在床底生活與防止其闖入家門同樣重要。 Building secure AGI: Evaluating emerging cyber security capabilities of advanced AI — Google DeepMind

2. AI 作為盾牌的悖論

當然，AI 對安全團隊來說也是優秀的盾牌。它能快速掃描海量數據並瞬間捕捉可疑動向。 What Are the Risks and Benefits of Artificial Intelligence (AI) in Cybersecurity? - Palo Alto Networks 但這其中隱藏著陷阱：如果過於敏感的 AI 將正常活動誤判為攻擊（誤報）並頻繁發出警報，安全人員可能會錯過真正的攻擊，並陷入工作過載。 [2503.11917] A Framework for Evaluating Emerging Cyberattack …

3. AI 本身成為攻擊目標

矛盾的是，AI 系統本身也正成為駭客的目標。越來越多的嘗試旨在欺騙 AI 做出錯誤判斷（操控，Manipulation），或挖掘 AI 學習數據中隱藏的敏感資訊（提取，Extraction）。這是一個警告：我們信任並使用的 AI 可能反而成為洩露資訊的通道。 [2503.11917] A Framework for Evaluating Emerging Cyberattack …

未來展望：盾牌也需智慧升級

專家強調，隨著駭客的利刃變得更加鋒利，我們的盾牌也必須持續進化。

首先，必須常態化更新防禦策略。隨著 AI 模型變得更聰明，駭客手段也會更加老練，因此安全系統必須像每天更新的抗毒軟體一樣保持最新狀態。 Building secure AGI: Evaluating emerging cyber security capabilities of advanced AI — Google DeepMind

其次，需要進行以實際案例為主的檢查。不能僅靠坐在桌前想像情境，而應基於真實駭客的攻擊數據進行嚴格測試，預判威脅。 Evaluating potential cybersecurity threats of advanced AI - 智源社区 最後，與其完全依賴技術，具備由人工管理的嚴謹安全流程與平衡感將變得至關重要。 Advanced AI-Driven Cybersecurity: Analyzing Emerging Threats …

MindTickleBytes 的 AI 記者觀點

AI 在安全戰場上就像一個「加速器」。它能成為我們可靠的守護者，也能成為惡徒手中摧毀城牆的強大破城槌。最終重要的不是劍的性能，而是握劍的人，以及防止劍被隨意揮舞的管理體系。為了開啟安全的 AI 時代，除了開發技術的速度外，不斷懷疑並驗證技術安全性的「安全敏感度」已成為必不可少的特質。

參考資料

  1. Building secure AGI: Evaluating emerging cyber security capabilities of advanced AI — Google DeepMind
  2. A Framework for Evaluating Emerging Cyberattack Capabilities of AI (ArXiv)
  3. Evaluating potential cybersecurity threats of advanced AI - 智源社区 (BAAI)
  4. Artificial Intelligence and Cybersecurity: Balancing Risks and Rewards (WEF)
  5. What Are the Risks and Benefits of Artificial Intelligence (AI) in Cybersecurity? - Palo Alto Networks
  6. A Framework for Evaluating Emerging Cyberattack Capabilities of AI (ResearchGate)
  7. What Are the Predictions of AI In Cybersecurity? - Palo Alto Networks
  8. Evaluating potential cybersecurity threats of advanced AI - OODA Loop
  9. Evaluating potential cybersecurity threats of advanced AI - Robotics.ee
  10. [2503.11917] A Framework for Evaluating Emerging Cyberattack Capabilities of AI (ArXiv Abs)
  11. Advancing cybersecurity: a comprehensive review of AI-driven detection - Springer
  12. AI-Powered Threat Detection in Cybersecurity: A Comprehensive Review - ResearchGate
  13. AI Enabled Threat Detection: Leveraging Artificial Intelligence - IEEE
  14. Cybersecurity Report 2025: AI Threats - Deloitte
  15. Advanced AI-Driven Cybersecurity: Analyzing Emerging Threats - Springer
  16. Cisco Introduces the State of AI Security Report for 2025
  17. The State of AI in Cyber Security - Check Point Research
測試你的理解
Q1. 目前 AI 模型在網路攻擊中表現出的主要特徵是什麼？
  • 自主發明革命性的駭客技術
  • 協助新手發動大規模的客製化攻擊
  • 在無專家干預下防禦所有系統
部分分析指出，AI 降低了攻擊門檻，使低技術水平的攻擊者也能展開大規模且具針對性的攻擊活動。
Q2. 最近的研究指出，傳統 AI 安全評估經常忽略哪一個階段？
  • 數據加密
  • 偵測規避及維持存取持續性
  • 硬體物理破壞
根據 Google DeepMind 的報告，現有的評估模型往往忽視了駭客入侵後如何隱藏行蹤（規避）以及如何長期維持存取權限（持續性）的階段。
Q3. AI 驅動的威脅偵測系統面臨的潛在挑戰是什麼？
  • 可能將正常活動誤判為威脅，導致安全團隊工作過載
  • 從源頭徹底封鎖駭客嘗試，讓安全團隊無事可做
  • 降低數據分析速度，導致反應時間延遲
如果 AI 系統將正常活動誤判為攻擊，安全團隊可能因處理大量虛假警報而導致效率下降。