如果 AI 成為駭客的「秘密武器」？我們必須了解的新型安全威脅

前言：某天收到的一封「完美」電子郵件

試著想像一下：在如往常般處理公務時，你收到了一封來自團隊主管的電子郵件。語氣與平時一模一樣，郵件中甚至提到了目前正在進行的專案細節，並請你點擊一個需要緊急確認的連結。在你毫不懷疑地點擊那一刻，你電腦中所有珍貴的資料都落入了駭客手中。

這與過去拙劣的垃圾郵件完全不同。這封沒有錯字、完美掌握你工作習慣的假郵件，其創作者可能不是人類，而是「人工智慧 (AI)」。簡單來說，人工智慧現在已經超越了保護我們的堅實盾牌，演變成了駭客手中鋒利的長矛 AI 驅動的網絡安全威脅：新興風險綜述…。

今天，我們將根據 Google 和安全專家分析的最新報告，像「聰明的朋友」一樣，以淺顯易懂的方式為你解釋 AI 如何威脅我們的數位世界，以及我們應該如何應對。

為什麼這很重要？ (Why It Matters)

事實上，人工智慧早已守護在我們身邊。正如 評估先進 AI 的潛在網絡安全威脅 中所解釋的，在過去的幾十年裡，AI 一直忠實地履行著「數位保鏢」的職責，監控電腦網絡的異常活動並攔截惡意軟體。

然而，隨著 ChatGPT 等強大生成式 AI 的出現，情況發生了急劇變化。技術具有 「雙重用途 (Dual-use)」 的特性。打個比方，廚師的刀可以用來製作美味的食物，但也可能成為危險的武器。AI 也是如此。根據 評估先進 AI 的潛在網絡安全威脅，隨著 AI 越來越接近「通用人工智慧 (AGI，能像人類一樣自主完成多種任務的 AI)」，其自動發現安全漏洞和自動化攻擊的能力也在飛躍式提升。

現在，駭客攻擊正逐漸脫離「少數高度專業人才」的領域。得益於 AI，駭客攻擊的成本降低、效率提高，我們每個人都可能生活在成為潛在攻擊對象的世界中。

深入淺出：窺探 AI 駭客的「商業機密」

那麼，AI 究竟是以何種方式攻擊我們的呢？為了理解這一點，Google 的威脅情報小組（Threat Intelligence Group）詳盡分析了超過 12,000 件實際案例 評估 AI 新興網絡攻擊能力的框架。

從 12,000 件事故中發現的 7 種模式

Google 研究人員透過分析海量數據，將 AI 被用於網絡攻擊的方式整理為 7 種 「攻擊鏈原型 (Attack chain archetypes)」 評估 AI 新興網絡攻擊能力的框架。這可以看作是一種「AI 駭客戰術手冊」。

例如，過去駭客為了尋找目標系統的弱點可能需要熬夜數日，但現在可以命令 AI：「幫我找出這個程式中門戶開放的地方」。AI 能在瞬間閱讀數萬行代碼，找出極其微小的裂縫。根據 評估先進 AI 的潛在網絡安全威脅 - 智源社區，該框架涵蓋了攻擊的全過程，能為防禦者決定優先建立哪些防禦措施提供決定性的幫助。

我們必須知道的「安全威脅四大天王」

AI 驅動的網絡安全威脅：新興風險綜述… 論文指出，我們需要特別警惕的四個危險因素：

1. 深偽技術 (Deepfakes) 與合成媒體：利用 AI 製作的假聲音或影像。想像一下接到一通聽起來像你兒子聲音的詐騙電話。
2. 對抗性 AI 攻擊 (Adversarial AI attacks)：欺騙 AI 系統本身的攻擊。例如，在交通標誌上貼上特殊貼紙，使自動駕駛車將停止標誌誤認為限速標誌的精準攻擊。
3. 自動化惡意軟體：AI 能自主產生變種，巧妙避開現有防毒軟體的智慧型病毒。
4. AI 驅動的社會工程攻擊：如前所述的郵件案例，利用對方的心理和資訊進行巧妙欺騙。AI 可以同時向數百萬人發送各不相同的「個人化詐騙訊息」。

現狀：為了抓住小偷，需要更聰明的警長

不過，你也不必過於擔心。因為技術的進步同時也提升了盾牌的性能。在 利用 AI 增強網絡安全：全面綜述… 中提到，結合 量子運算（比超級電腦快數百萬倍的下一代電腦）與 可解釋 AI（能以人類理解的方式說明判斷依據的 AI）的新型防禦系統正相繼問世。

最重要的原則體現在網絡安全專家、副總裁 Etay Maor 的話中。他在接受 CNBC 採訪時強調：「對抗 AI 的唯一方法就是利用 AI 來反擊 AI」 Google 新聞 - 網絡安全概覽。也就是說，如果駭客拿起了最新型的 AI 武器，防禦者也必須僱傭更強大、更聰明的 AI 警長。

未來會如何發展？ (What’s Next)

Google 最近建立了一個由 50 個高難度挑戰組成的「基準測試 (Benchmark)」，用以衡量 AI 進行網絡犯罪的能力 Google 開發衡量「AI 網絡犯罪」的基準測試… - GIGAZINE。這就像是一種「AI 駭客資格考試」，它能幫助防禦者掌握 AI 在哪個階段攻擊最強、在哪裡會遇到阻礙（瓶頸分析），從而提前做好準備 評估先進 AI 的潛在網絡安全威脅。

我們即將迎來的未來安全將不再是消極的「修築城牆」。AI 將即時學習網絡環境，在攻擊發生前就捕捉並攔截徵兆，「主動防禦」 的時代即將正式開啟。

MindTickleBytes 的 AI 記者觀點

AI 可能成為駭客工具的事實無疑令人恐懼。然而，正如人類最初發現火時儘管面臨火災風險仍推動了文明發展一樣，AI 安全威脅也是我們必須透過技術去克服的課題。

歸根結底，操控技術的是「人」的意志。如果我們能清晰意識到 AI 的危險並預先做好準備，人工智慧將成為比任何安全專家都更優秀、更忠誠的守護者。請記住，守護你數位生活最強大的疫苗，是你對最新技術持續的「關注」與「批判性思考」！

參考資料

1. Evaluating potential cybersecurity threats of advanced AI
2. Evaluating Potential Cybersecurity Threats Of Advanced AI
3. Evaluating potential cybersecurity threats of advanced AI
4. AI-Driven Cybersecurity Threats: A Survey of Emerging Risks and …
5. Leveraging AI for enhanced cybersecurity: a comprehensive review …
6. Evaluating potential cybersecurity threats of advanced AI - 智源社区
7. A Framework for Evaluating Emerging Cyberattack Capabilities of AI
8. [2503.11917v3] A Framework for Evaluating Emerging Cyberattack Capabilities of AI
9. GoogleNews-Newsaboutcybersecurity- Overview

10. [KasperskySecurityBulletin2025

    Kaspersky](https://lp.kaspersky.com/global/ksb2025/)

11. Google develops benchmark to measure ‘AIcybercrime… - GIGAZINE

FACT-CHECK SUMMARY

• Claims checked: 13
• Claims verified: 13
• Verdict: PASS