我的 AI 助理竟然「背叛」我？代理型 AI 的隱藏威脅：數據污染

想像一下：你每天都信賴並使用著一位聰明的 AI 助理。當你早上醒來對它說：「幫我整理今天的重要工作並發送郵件」，它能完美捕捉你的意圖，俐落完成文件整理與發送。但如果這名 AI 被設定為會對特定微小的單字或語句做出反應，並在你不知情的情況下，秘密執行將你的重要帳戶資訊發送給第三方的指令呢？

近期，AI 業界正迅速普及不僅限於搜尋知識並回答問題，而是能自行判斷並處理任務的「代理型 AI (Agentic AI)」。然而，在這份便利的背後，正籠罩著名為「數據污染 (Data Poisoning)」的致命陰影。今天我們將深入探討我們在日常生活中信任的 AI，是如何在學習過程中學到惡意意圖，並揭開其背後的安全祕密。

為什麼這很重要？

如果說過去的 AI 僅停留在生成文字並「建議」意見的階段，那麼現在的代理型 AI 則是會在現實世界中真正「採取行動」。它們會發送電子郵件、管理企業的客戶關係管理 (CRM) 系統，甚至負責檔案傳輸或金融支付授權 參考：The Agentic Backdoor: Why Your New “Autonomous Workforce” is…。

如果這樣的 AI 在學習階段受到攻擊，或是被設計成在特定條件下出現異常行為的「後門 (Backdoor，系統中被偷偷安裝的暗門)」，可能會導致嚴重的損失。簡單來說，表面上看起來一切正常，但只要輸入攻擊者設定的「秘密密碼」，AI 就會按照攻擊者的意圖行動。特別是近期的研究警告，這類攻擊成功所需的努力比想像中還要少得多 參考：Poisoning Attacks on LLMs Require a Near-constant Number of…。

簡單理解：如何破壞 AI 的「基礎教育」

製作 AI 的過程通常分為兩個階段：第一階段是讀取海量網際網路數據，學習語言基本結構與知識的「預訓練 (Pretraining)」；第二階段則是為了能更精準執行特定任務，進行細部打磨的「微調 (Fine-tuning)」階段 參考：How To Identify and Prevent Data Poisoning Attacks On Large…。

數據污染就像是針對這個教育過程投放的「毒藥」。可以這樣比喻：

1. 預訓練污染： 就像是在 AI 於巨大圖書館閱讀書籍時，混入內容被秘密篡改的偽造書籍。AI 會透過閱讀這些書籍，扭曲對語言模式本身的學習 參考：Understanding LLM Poisoning。
2. 微調污染： 在教導已經打好基礎的 AI「在特定情況下該如何採取行動」的階段，偷偷植入錯誤的指令 參考：Understanding LLM Poisoning。

為什麼這很可怕？研究結果顯示，無論整體的學習數據量有多少，只要在學習數據中混入 僅 250 篇左右的惡意文檔，就足以在大型模型中植入後門 參考：Poisoning Attacks on LLMs Require a Near-constant Number of…。這就像是一個孩子即便讀了 1 萬本好書，但如果其中混入了 250 本經過篡改的壞書，孩子的價值觀也可能因此扭曲 參考：LLM Poisoning: How Just 250 Documents Can Compromise AI…。

安全界線在哪裡？

很多人會認為：「已經完成學習的 AI 不就安全了嗎？」但專家警告，這種弱點並不會在預訓練階段結束，即便模型發佈後，風險依然存在 參考：7 AI Trends To Watch Out For In 2025: Agentic AI, Edge AI & More。

我們該如何準備？

數據污染已不再是科幻電影情節，而是極其現實且成本低廉的安全威脅 參考：7 AI Trends To Watch Out For In 2025: Agentic AI, Edge AI & More。未來，驗證 AI 模型是否安全、是否使用「乾淨數據」所製成，將比單純追求模型有多「聰明」更具核心競爭力。

各位讀者在使用 AI 助理時也需多加留心。首先，務必妥善管理，避免一次賦予 AI 過多權限。此外，養成對 AI 建議的金融支付、數據變更、重要檔案傳輸等敏感作業進行人工覆核的習慣，將變得至關重要。技術越聰明，我們的監控之眼也必須隨之成長，這是我們共同面臨的時代。

參考資料

1. Poisoning Attacks on LLMs Require a Near-constant Number of Documents: https://arxiv.org/html/2510.07192
2. LLM Poisoning: How Just 250 Documents Can Compromise AI: https://mernstackdev.com/llm-poisoning/
3. Data Poisoning in AI: What the Evidence Shows: https://securing.ai/data-poisoning-ml/
4. 7 AI Trends To Watch Out For In 2025: Agentic AI, Edge AI & More: https://www.linkedin.com/posts/petry-computer-services_7-ai-trends-to-watch-out-for-in-2025-agentic-activity-7278421289399193600-VSRK
5. Via Agentic — AI Agentic Platforms & AI Safety: https://via-agentic.io/

6. Common Agentic Attack Patterns: 6 Layers Explained

   Augment Code: https://www.augmentcode.com/guides/common-agentic-attack-patterns

7. How To Identify and Prevent Data Poisoning Attacks On Large Language Models: https://www.ituonline.com/blogs/how-to-identify-and-prevent-data-poisoning-attacks-on-large-language-models/
8. The Agentic Backdoor: Why Your New “Autonomous Workforce” is…: https://www.linkedin.com/pulse/agentic-backdoor-why-your-new-autonomous-workforce-security-reiff-fb15c

9. Prompt Injection via Tokens: The Dark Side of Agentic…

   Blockaid Blog: https://blockaid.io/blog/prompt-injection-via-tokens-the-dark-side-of-agentic-commerce

10. Understanding LLM Poisoning

    DigitalOcean: http://southdakotadigitalnews.com/understanding-llm-poisoning.html