以色列政府投入數千億韓元的預算,推動一項戰略,引導 AI 聊天機器人以特定方式回應有關以色列的資訊。
想像一下。今天傍晚,您問 AI 聊天機器人:「請整理一下新聞中提到的以色列相關議題。」聊天機器人用非常像樣的語氣緩緩說明。您相信 AI 是以龐大的網路資料為基礎,給出了最「中立」的回答。但如果該回答是透過特定政府預算精心編排的「學習用劇本」結果,您會怎麼想?
近期,以色列政府正利用人工智慧(AI)展開新型態數位宣傳策略的事實被曝光,引發了爭議。這不僅僅是向人們展示廣告,而是試圖改變 AI 看待世界的「數據鏡頭」本身。
為什麼這很重要? (Why It Matters)
現在我們遇到問題時,會比搜尋引擎更優先詢問 ChatGPT 之類的 AI 聊天機器人。AI 的回答已成為我們思維的指南針。如果有人隱密地為這名「嚮導」繪製了只能朝特定方向前進的地圖,我們將面臨在無意識中只能朝該方向思考的風險。
以色列政府推動的這次策略,超越了製作國家宣傳影片的層次。這是因為他們利用 AI 學習網際網路數據的特性,試圖用對自己有利的資訊填滿 AI 的「知識庫」本身。這為我們在數位時代民主與資訊信賴度方面,丟出了一道需要認真思考的重大課題。
輕鬆理解 (The Explainer)
讓我們將 AI 回答的原理比喻為「巨大的圖書館」。圖書館員(AI)閱讀無數書籍(網際網路數據)並回答顧客(使用者)的問題。到目前為止,館員看起來似乎公平地參考了圖書館裡所有的書。
然而,以色列政府聘請的宣傳代理業者「Clock Tower X LLC」正試圖秘密地將包含特定內容的書籍大量塞進這座圖書館。出處: Responsible Statecraft 甚至這些書不是一般的宣傳品,而是偽裝成由權威「研究機構」或「智庫」撰寫的精巧內容。出處: Haaretz
簡單來說,就是要操縱 AI「從哪裡獲取資訊」。當 ChatGPT、Gemini、Claude 等 AI 模型在學習過程中參考了這些「假研究機構」的資料時,自然而然地更有可能給出反映以色列立場的回答。這種方式在專業術語中稱為「GPT 框架化 (GPT framing)」。出處: Ynetnews 比喻來說,就如同讓圖書館員不斷閱讀特定觀點的書,最後對顧客做出符合該觀點的回答。
現況 (Where We Stand)
據悉,以色列政府為了這個專案,投入了超過半億謝克爾(數千億韓元規模)的龐大預算。出處: Ynetnews 與其中簽訂 600 萬美元合約的 Clock Tower,正集中精力製作能接觸到使用 TikTok、Instagram、YouTube 等平台的 Z 世代內容。出處: DefendDemocracy.press
值得關注的一點是,AI 確實會根據我們身處的位置,給出不同的回答。根據研究結果,在以色列當地對 ChatGPT 提問時,該聊天機器人使用了強調安全、自衛權與對抗恐怖主義戰爭的語言,而在道德問題上則表現得更加謹慎。出處: Ynetnews
當然,關於 OpenAI 與以色列政府簽約直接修改 AI 回答的傳聞,已被證實並非事實。出處: Yahoo News 但這次策略被評價為更加狡猾且具威脅性,因為它不是直接操縱 AI,而是操縱 AI 賴以生存的「數據環境」。
未來會如何? (What’s Next)
未來,政府或大型企業利用 AI 來代為發聲、維護自身利益的嘗試將會更多。掌握資訊的真相可能會比現在困難得多。
包括 Omer Benjakob 記者在內的許多專家,對於這些嘗試究竟有多大效果表示質疑,並警告稱這種方式可能會汙染資訊生態系統。出處: Haaretz 為了成為數位時代的明智使用者,我們能做些什麼呢?最重要的是,在聽取 AI 回答時,能有一次「這些資訊是從哪裡學習來的?」這種批判性反問的態度。因為 AI 既是我們所提問題的鏡子,也可能是某人刻意配置的數據反映物。
參考資料
-
[ChatGPT asked famous Israelis questions - here are their answers The Jerusalem Post](https://www.jpost.com/j-spot/article-738709) - Making Israel’s case to ChatGPT and Grok: Hasbara meets AI in multi-million dollar PR push - YouTube
-
[Israel wants to train ChatGPT to be more pro-Israel Responsible Statecraft](https://responsiblestatecraft.org/israel-chatgpt/) -
[Report: Israel to spend over half a billion shekels turning ChatGPT into public diplomacy tool Ynetnews](https://www.ynetnews.com/tech-and-digital/article/rj00kxqzaxx) -
[Ask ChatGPT about Israel — your location may change the answer Ynetnews](https://www.ynetnews.com/tech-and-digital/article/skilyoscwx) - Making Israel’s case to ChatGPT and Grok - Haaretz
-
[Israel didn’t sign a deal with ChatGPT. Here’s what actually … Yahoo News](https://uk.news.yahoo.com/israel-didnt-sign-deal-chatgpt-233300413.html) -
[Israel wants to train ChatGPT to be more pro-Israel DefendDemocracy.press](https://www.defenddemocracy.press/israel-wants-to-train-chatgpt-to-be-more-pro-israel/)
- 與 OpenAI 直接簽約修改系統
- 透過假研究機構網站等,刻意製作 AI 會參考的數據
- 阻擋使用者使用 AI
- 壯年層
- 全球學者
- Gen Z (Z 世代)
- 在全球各地皆提供相同回答
- 根據使用者的位置,回答內容或論調可能會有所不同
- AI 對於政治性問題絕不回答