AI 回答的「以色列」故事,是有人預先寫好的劇本嗎?

將電腦螢幕中的 AI 聊天機器人與幕後的策略性數位內容製作過程視覺化的圖像
AI Summary

以色列政府投入數千億韓元的預算,推動一項戰略,引導 AI 聊天機器人以特定方式回應有關以色列的資訊。

想像一下。今天傍晚,您問 AI 聊天機器人:「請整理一下新聞中提到的以色列相關議題。」聊天機器人用非常像樣的語氣緩緩說明。您相信 AI 是以龐大的網路資料為基礎,給出了最「中立」的回答。但如果該回答是透過特定政府預算精心編排的「學習用劇本」結果,您會怎麼想?

近期,以色列政府正利用人工智慧(AI)展開新型態數位宣傳策略的事實被曝光,引發了爭議。這不僅僅是向人們展示廣告,而是試圖改變 AI 看待世界的「數據鏡頭」本身。

為什麼這很重要? (Why It Matters)

現在我們遇到問題時,會比搜尋引擎更優先詢問 ChatGPT 之類的 AI 聊天機器人。AI 的回答已成為我們思維的指南針。如果有人隱密地為這名「嚮導」繪製了只能朝特定方向前進的地圖,我們將面臨在無意識中只能朝該方向思考的風險。

以色列政府推動的這次策略,超越了製作國家宣傳影片的層次。這是因為他們利用 AI 學習網際網路數據的特性,試圖用對自己有利的資訊填滿 AI 的「知識庫」本身。這為我們在數位時代民主與資訊信賴度方面,丟出了一道需要認真思考的重大課題。

AD

輕鬆理解 (The Explainer)

讓我們將 AI 回答的原理比喻為「巨大的圖書館」。圖書館員(AI)閱讀無數書籍(網際網路數據)並回答顧客(使用者)的問題。到目前為止,館員看起來似乎公平地參考了圖書館裡所有的書。

然而,以色列政府聘請的宣傳代理業者「Clock Tower X LLC」正試圖秘密地將包含特定內容的書籍大量塞進這座圖書館。出處: Responsible Statecraft 甚至這些書不是一般的宣傳品,而是偽裝成由權威「研究機構」或「智庫」撰寫的精巧內容。出處: Haaretz

簡單來說,就是要操縱 AI「從哪裡獲取資訊」。當 ChatGPT、Gemini、Claude 等 AI 模型在學習過程中參考了這些「假研究機構」的資料時,自然而然地更有可能給出反映以色列立場的回答。這種方式在專業術語中稱為「GPT 框架化 (GPT framing)」。出處: Ynetnews 比喻來說,就如同讓圖書館員不斷閱讀特定觀點的書,最後對顧客做出符合該觀點的回答。

現況 (Where We Stand)

據悉,以色列政府為了這個專案,投入了超過半億謝克爾(數千億韓元規模)的龐大預算。出處: Ynetnews 與其中簽訂 600 萬美元合約的 Clock Tower,正集中精力製作能接觸到使用 TikTok、Instagram、YouTube 等平台的 Z 世代內容。出處: DefendDemocracy.press

值得關注的一點是,AI 確實會根據我們身處的位置,給出不同的回答。根據研究結果,在以色列當地對 ChatGPT 提問時,該聊天機器人使用了強調安全、自衛權與對抗恐怖主義戰爭的語言,而在道德問題上則表現得更加謹慎。出處: Ynetnews

當然,關於 OpenAI 與以色列政府簽約直接修改 AI 回答的傳聞,已被證實並非事實。出處: Yahoo News 但這次策略被評價為更加狡猾且具威脅性,因為它不是直接操縱 AI,而是操縱 AI 賴以生存的「數據環境」。

未來會如何? (What’s Next)

未來,政府或大型企業利用 AI 來代為發聲、維護自身利益的嘗試將會更多。掌握資訊的真相可能會比現在困難得多。

包括 Omer Benjakob 記者在內的許多專家,對於這些嘗試究竟有多大效果表示質疑,並警告稱這種方式可能會汙染資訊生態系統。出處: Haaretz 為了成為數位時代的明智使用者,我們能做些什麼呢?最重要的是,在聽取 AI 回答時,能有一次「這些資訊是從哪裡學習來的?」這種批判性反問的態度。因為 AI 既是我們所提問題的鏡子,也可能是某人刻意配置的數據反映物。


參考資料

  1. [ChatGPT asked famous Israelis questions - here are their answers The Jerusalem Post](https://www.jpost.com/j-spot/article-738709)
  2. Making Israel’s case to ChatGPT and Grok: Hasbara meets AI in multi-million dollar PR push - YouTube
  3. [Israel wants to train ChatGPT to be more pro-Israel Responsible Statecraft](https://responsiblestatecraft.org/israel-chatgpt/)
  4. [Report: Israel to spend over half a billion shekels turning ChatGPT into public diplomacy tool Ynetnews](https://www.ynetnews.com/tech-and-digital/article/rj00kxqzaxx)
  5. [Ask ChatGPT about Israel — your location may change the answer Ynetnews](https://www.ynetnews.com/tech-and-digital/article/skilyoscwx)
  6. Making Israel’s case to ChatGPT and Grok - Haaretz
  7. [Israel didn’t sign a deal with ChatGPT. Here’s what actually … Yahoo News](https://uk.news.yahoo.com/israel-didnt-sign-deal-chatgpt-233300413.html)
  8. [Israel wants to train ChatGPT to be more pro-Israel DefendDemocracy.press](https://www.defenddemocracy.press/israel-wants-to-train-chatgpt-to-be-more-pro-israel/)
AD
測試你的理解
Q1. 以色列政府推動的數位宣傳策略核心是什麼?
  • 與 OpenAI 直接簽約修改系統
  • 透過假研究機構網站等,刻意製作 AI 會參考的數據
  • 阻擋使用者使用 AI
以色列政府透過名為「Clock Tower」的業者製作 AI 模型會參考的網站與內容,誘導 AI 以特定框架來解釋有關以色列的議題。
Q2. 以色列的宣傳代理業者將什麼對象視為主要目標?
  • 壯年層
  • 全球學者
  • Gen Z (Z 世代)
根據與 Clock Tower 的合約內容,所製作的內容中至少 80% 是針對使用 TikTok、Instagram 等平台的使用者,即 Z 世代。
Q3. AI 在回答有關以色列的問題時出現的特徵是什麼?
  • 在全球各地皆提供相同回答
  • 根據使用者的位置,回答內容或論調可能會有所不同
  • AI 對於政治性問題絕不回答
研究結果顯示,在以色列當地,聊天機器人的回答強調安全與自衛權等,證實了根據使用者的位置,回答的論調可能會有所不同。