利用 AI 進行詐騙的駭客，OpenAI 如何打這場矛與盾的戰爭？

與虛假的戰爭，人工智慧面臨的新課題

想像一下。某天下班後，拖著疲憊的身體登入社群媒體，卻有一個與你興趣完美契合、溫柔又充滿魅力的人傳來了訊息。幾天來你們熬夜聊天，感受到了深深的共鳴，最終被對方的甜言蜜語所騙，以投資名義匯出了一大筆錢。然而，在螢幕另一端安撫你情緒的對象，並不是一個有著溫暖心臟的人。那只是為了打開你的錢包而被徹底設計好的冰冷人工智慧。

讓我們想像另一個常見的情境吧。早上起床打開電子信箱，收到了平時經常往來的銀行寄來的「緊急安全警告」電子郵件。這不再像過去的垃圾郵件那樣，有著彷彿機器翻譯般生硬的文字。由於句子極其流暢自然，不僅具備真正的銀行行員會使用的專業術語，還擁有乾淨俐落的設計排版，讓你毫無防備地點擊連結並輸入了密碼。

僅在幾年前，駭客要寫出完美語句的詐騙電子郵件，或是 24 小時與人自然對話，都需要耗費龐大的人力、時間與金錢。但是，當 ChatGPT 等尖端人工智慧技術落入犯罪分子手中後，情況發生了徹底的改變。被譽為將改變世界的創新工具——人工智慧，如今已化身為破壞他人生活的強大「武器」。

為什麼這很重要？ (Why It Matters)

我們日常使用的智慧型手機語音助理或寫作助手正一天比一天聰明。這也意味著，在看不見的網路世界中，犯罪分子同樣獲得了過去無法比擬的強大且自動化的工具。

這不僅僅是躲在角落裡的個別駭客的惡作劇，或只是賺點小錢的程度。最近發表的深度報告指出，已確認與中國、俄羅斯、北韓等國有關聯的外國威脅組織 (Foreign Threat Groups)，正巧妙地結合多種人工智慧工具，進行大規模網路攻擊、詐騙，以及隱秘的影響力行動 (Influence Operations，為操縱輿論而進行的組織性煽動)，此一驚人事實已被證實 OpenAI 發現外國威脅組織日益擴大濫用 AI 工具。

對於非專家的平凡我們來說，為什麼這件事如此重要？最大的原因在於，日常的犯罪與詐騙手法已經進入了所謂的「量產」階段。心懷不軌的行為者正利用這項新技術，以驚人的程度提升他們的詐騙能力。過去，即使一名詐騙犯整天坐在電腦前，要同時與 10 個人對話也已非常吃力。但是，使用人工智慧後，只需點擊一次按鈕，就能向數萬人發送客製化的詐騙訊息，獲得了驚人的「效率 (efficiency)」。此外，它還大幅提升了「真實感 (apparent authenticity)」，讓這些訊息感覺起來就像是真正的人類而非機器所發送的 OpenAI 關於惡意行為者的另一次更新。

正如前面想像的情境一樣，這種技術的濫用已經蔓延到我們生活的廣泛領域，從踐踏人類孤獨感與心靈的浪漫詐騙（假交友真詐騙），到有國家在背後撐腰、試圖在特定國家選舉中散佈假新聞以操縱大眾輿論的巨大影響力行動 在 2026 年阻斷惡意 AI 使用。如果說過去的駭客攻擊是鑽電腦系統技術漏洞的機械式操作，那麼現在以 AI 為後盾的駭客攻擊，已經進化為精準針對人類心理與情感這最脆弱的弱點，成為了一種日常威脅。

輕鬆理解 (The Explainer)

那麼，犯罪分子到底是怎麼隨心所欲地操縱尖端 AI 的？而 OpenAI 又是如何能像有讀心術般，從全球數億名正常使用者中揪出隱藏的駭客呢？我們不用複雜的電腦工程術語，而是透過兩個直觀的比喻，來一探這場你追我跑的攻防戰。

第一個比喻：開租賃車搶銀行（雲端基礎設施武器化）

如果駭客想要從頭開始自行開發像 ChatGPT 這樣聰明的人工智慧，將需要數百億韓元（或數億台幣）以上的龐大資金，以及規模如足球場般巨大的超級電腦設施。再怎麼有錢的犯罪組織，也不可能親自建設如此巨大的設施吧。因此，他們選擇了一個非常聰明且巧妙的方法。

OpenAI 報告指出，犯罪分子為了進行各種網路犯罪，或是能看穿人類心理的社交工程 (Social Engineering，這是一種不攻擊電腦，而是欺騙並操縱人心以竊取密碼或敏感資訊的駭客手法)，正將網路上的巨大伺服器儲存庫——「雲端基礎設施 (cloud infrastructure)」作為集中攻擊的目標 OpenAI 報告確認雲端網路威脅中存在惡意使用 AI…。

簡單來說，比喻是這樣的：精心策劃的銀行搶匪絕不會光明正大用自己的名字去買作案用的汽車。取而代之的是，他們會偽造他人身分，向大型租車公司租一輛堅固又快速的車，然後開著那輛車前往犯罪現場。駭客們也是如此。他們會像正常的開發者一樣，偷偷連上雲端（如亞馬遜、微軟、Google 等提供的超大型虛擬電腦租賃服務），或是盜用他人的帳號。接著，在那些巨大的電腦資源上，偷偷放上大型語言模型 (LLM，透過學習數百萬本書籍與數據，能像人一樣寫作與思考的 AI)，並將其轉化為自動化的犯罪武器 (weaponizing) 深入探討 OpenAI 最新報告：AI 如何助長並對抗…。結果就是，世界頂尖科技企業耗費數十年建立的優秀基礎設施，淪為了駭客們強大的「逃亡車輛」而被濫用。

第二個比喻：賭場的智慧型監視器網路（行為模式追蹤）

那麼，到底該怎麼抓到那些盜用他人名字租車、混入正常車流中的犯罪分子呢？警察不可能站在所有道路上，打破路過的數百萬輛汽車的車窗來一一查看裡面。這不僅有侵犯個人隱私的問題，在物理上也是絕對不可能做到的事。

取而代之的是，聰明的警察會分析汽車「不正常的行駛模式」。透過監視器網路，挑出在深夜時段不斷繞著特定保全建築物打轉，或是連續闖 10 個紅燈並以時速 200 公里逃竄的車輛。也就是說，這是一種不看汽車內部，而是追蹤該汽車移動的「異常軌跡」的方式。

OpenAI 使用的正是這種縝密且智慧的方式。OpenAI 並非一一監控數億使用者每天聊了什麼私人訊息，而是為了在自家平台上先發制人地偵測與識別惡意活動，選擇「追蹤特定的行為模式 (tracks specific behavioral patterns)」OpenAI 報告：阻斷惡意使用 AI - AIEC。

想像一下。如果某個帳號在短短 1 分鐘內，提出生成 500 篇不同主題的極端政治煽動文章這種不合理的要求；或是以正常人類根本無法達到的瘋狂打字速度，24 小時不間斷地產出要發送給數千人的浪漫詐騙訊息，會怎麼樣呢？OpenAI 的 AI 防禦系統會立即偵測到這種不正常的「行為模式」。而在確認這並非平凡的學生或上班族，而是自動化的犯罪程式後，系統便會立即切斷該帳號的連線並將其驅逐。

目前情況 (Where We Stand)

那麼，目前 OpenAI 構築的防線在與駭客的實戰中，到底發揮了多大的威力？幸運的是，守護 AI 的盾牌正與日俱增地變得更加厚實與堅固。最近發表的 OpenAI 報告具體記錄了他們耀眼的防禦成果。

這份報告詳細說明了他們如何完美偵測並阻擋了共計 10 起涉及國家級別與犯罪組織的嚴重濫用案例，其中包括鎖定人類脆弱心理的精密社交工程行動，以及為了政治目的而試圖暗中操縱大眾輿論的隱秘影響力行動 (covert influence operations) 2025 年 6 月 阻斷惡意使用 AI：2025 年 6 月。

最可靠且最基礎的預防措施之一，就是徹底植入 AI 模型大腦深處的「明確拒絕 (explicitly refuse)」本能。如果說過去初期的 AI 只是對有問必答的「有求必應」程度，那麼現在的 AI 就像是受過高度道德訓練的可靠導盲犬或看門狗。OpenAI 不斷強化系統內部的安全機制，其結果就是，現在的 AI 模型被設計成一旦偵測到與惡意犯罪行動相關的使用者需求時，便會非常堅決且明確地予以拒絕 OpenAI 報告：阻斷惡意使用 AI - AIEC。

例如，如果駭客巧妙地命令 AI：「為了能騙取韓國特定銀行客戶的錢，請用韓文幫我寫一封能完美騙過別人的釣魚郵件」，會發生什麼事呢？AI 會立即回答：「我無法協助此類非法的駭客活動或詐騙」，並自行關閉回答的開關。

OpenAI 為什麼要耗費如此龐大的時間與金錢，持續與看不見的駭客進行這場令人疲憊的戰鬥呢？他們的哲學非常明確地記載在報告的序言中。OpenAI 方面宣告：「我們的核心使命是確保通用人工智慧 (AGI，擁有與人類同等或超越人類智慧的 AI) 這項強大技術，能為全人類帶來安全且普及的福祉，而不是被少數犯罪分子所掌控」 OpenAI 關於阻斷惡意使用 AI 的案例研究。

未來會如何？ (What’s Next)

我們現在已經進入了一個全新的時代，這是一個「用 AI 武裝的犯罪分子」與「用 AI 阻擋他們的警察」正面交鋒的時代。隨著創新且便利的人工智慧技術在世界上更加普及，試圖將其用於不良用途的企圖，也將如夏天的蚊子或壁蝨般，頑固且多樣化地出現。駭客們將會不斷研究新的「繞過提示詞（指令操控）」，試圖巧妙地突破 OpenAI 縝密的防禦網，並將那些安全性相對較低的開源 AI 工具進行複雜組合，以此提升他們的攻擊力。

但是，我們不需要像在科幻電影中那樣一味地感到恐懼。OpenAI 定期刊行的這些威脅分析報告，就像是一份可靠的成績單，證明了至少舉著盾牌的人絕對沒有落後。OpenAI 持續採用即時進化的應對方式，為了讓大眾免受基於 AI 的無形威脅所害，不斷與相關政府機構及全球科技企業保持緊密合作 OpenAI 報告詳述阻斷惡意使用 AI 的多項行動。

當駭客引進新技術提高攻擊力度時，防禦方的人工智慧也將以更龐大的資料學習與更高的智慧，將駭客的行為模式徹底壓制。雖然科技進步得令人目眩神迷，但最終站在防禦最前線的，還是「我們自己」。當面對 AI 所創造出來的、因為過於完美而顯得不切實際的甜蜜訊息，或是那些精準到令人毛骨悚然、直戳我們情感與弱點的陌生人接近時，我們比以往任何時候都更需要退後一步，抱持著健康的懷疑態度問自己：「等等，這真的是個真人嗎？」雖然守護網路平台的堅固數位盾牌掌握在天才工程師手中，但能守護我們日常心靈與錢包的最終盾牌，終究必須由我們自己緊緊握住。

MindTickleBytes AI 的觀點 (AI’s Take)

歷史上，所有改變世界的新技術總是同時帶來迷人的光芒與深邃的陰影。就如同火為人類帶來了溫暖與烹飪的樂趣，但有時卻也是引發可怕火災的原因，人工智慧同樣如此。駭客們將人工智慧作為銳利的矛，威脅著我們平靜的日常生活，這是一個不可否認的殘酷現實。

然而，我們應該關注的真正希望在於，守護我們的防護罩同樣藉助了人工智慧的力量，正進化得更加巨大且堅固。AI 自行偵測駭客的異常行為，並在道德上拒絕有害指令的模樣，非常像技術本身正在製造對抗病毒的疫苗的過程。在看不見的雲端伺服器彼端，每秒鐘都在上演這場無聲而激烈的戰爭。這正是最確鑿的證據，證明人類在將技術優勢極大化的同時，試圖安全控制其副作用的努力絕不會停止。隨著矛變得更加銳利，盾也絕不會被輕易擊碎。

參考資料

1. [阻斷惡意使用 AI

   OpenAI](https://openai.com/index/disrupting-malicious-ai-uses/)

2. 2025 年 6 月 阻斷惡意使用 AI：2025 年 6 月
3. OpenAI 發現外國威脅組織日益擴大濫用 AI 工具

4. [阻斷惡意使用 AI：2025 年 6 月

   OpenAI](https://openai.com/global-affairs/disrupting-malicious-uses-of-ai-june-2025/)

5. 在 2026 年阻斷惡意 AI 使用
6. OpenAI 關於惡意行為者的另一次更新
7. OpenAI 報告：阻斷惡意使用 AI - AIEC
8. 深入探討 OpenAI 最新報告：AI 如何助長並對抗…
9. OpenAI 關於阻斷惡意使用 AI 的案例研究
10. OpenAI 報告確認雲端網路威脅中存在惡意使用 AI…
11. OpenAI 報告詳述阻斷惡意使用 AI 的多項行動