AI 回答的“以色列”故事,是否是预先编好的剧本?

可视化图片:电脑屏幕中的 AI 聊天机器人与幕后的战略性数字内容制作过程
AI Summary

以色列政府正投入数千亿韩元预算,推动一项旨在诱导 AI 聊天机器人以特定方式回答有关以色列问题的策略。

想象一下。今天晚上,你问 AI 聊天机器人:“请整理一下新闻中关于以色列的问题。”聊天机器人用非常像样的语气,有条不紊地进行解释。你相信 AI 是基于浩瀚的互联网资料,给出了最“中立”的答案。但是,如果那个答案是特定政府投入预算精心编排的“学习剧本”的结果,会怎样呢?

最近,以色列政府利用人工智能(AI)展开新型数字宣传策略的事实被曝光,引发了争议。因为这不仅是单纯地向人们展示广告,而是试图改变 AI 看待世界的“数据透镜”本身。

为什么这很重要? (Why It Matters)

现在我们有了疑问,会比搜索门户网站先问像 ChatGPT 这样的 AI 聊天机器人。AI 的回答已经成为了我们思想的向导。如果有人为这个“向导”偷偷绘制了只能通往特定方向的地图,我们就有可能在不知不觉中只会朝那个方向思考。

以色列政府推进的这次策略,水平远超制作国家宣传片的程度。因为 AI 是通过学习互联网数据来获取知识的,他们试图将 AI 的“知识库”本身填充为对自己有利的信息。这为数字时代的民主主义和信息可信度,留下了我们需要认真思考的巨大课题。

AD

简单易懂的解释 (The Explainer)

我们将 AI 回答的原理比作“巨大的图书馆”。图书管理员(AI)阅读无数书籍(互联网数据),回答客人(用户)的问题。到目前为止,管理员看起来似乎公平地参考了图书馆里的所有书籍。

但是,以色列政府聘请的宣传代理公司“钟楼(Clock Tower X LLC)”却试图悄悄地向该图书馆大量塞入包含特定内容的书籍。出处: Responsible Statecraft 甚至这些书籍并不是一般的宣传品,而是伪装成权威“研究所”或“智库”撰写的精细内容。出处: Haaretz

简单来说,就是想操纵 AI“从哪里获取信息”。当 ChatGPT、Gemini、Claude 等 AI 模型在学习过程中参考这些“虚假研究所”的资料时,自然会提高给出反映以色列立场回答的概率。这种方式专业术语称为“GPT 框架化(GPT framing)”。出处: Ynetnews 打个比方,就像让图书管理员持续只阅读特定观点的书籍,从而最终导致向客人回答时也按照该观点进行一样。

现状 (Where We Stand)

据了解,以色列政府为该项目投入了超过五亿谢克尔(相当于数千亿韩元)的巨额预算。出处: Ynetnews 其中与“钟楼”公司签订了 600 万美元规模的合同,专注于制作能够触达使用 TikTok、Instagram、YouTube 等平台的 Z 世代的内容。出处: DefendDemocracy.press

值得关注的一点是,AI 实际上确实会根据我们所在的位置给出不同的回答。研究结果显示,在以色列当地向 ChatGPT 提问时,该机器人使用了强调安全、自卫权和反恐战争的语言,而在道德问题上则表现得更加谨慎。出处: Ynetnews

当然,关于 OpenAI 和以色列政府签订协议直接修改 AI 回答之类的传闻,已被证实不是事实。出处: Yahoo News 但是,这次策略不是直接操纵 AI,而是操纵 AI 赖以生存和成长的“数据环境”,因此被认为更加巧妙和具有威胁性。

未来会怎样? (What’s Next)

未来,政府或大型企业利用 AI 代言本国或自身利益的尝试将不断增加。获取信息真相的难度可能会比现在高得多。

包括奥默·本雅各布(Omer Benjakob)记者在内的许多专家对这种尝试实际能有多大效果表示怀疑,并警告说这种方式可能会污染信息生态系统。出处: Haaretz 为了成为数字时代的智慧用户,我们能做什么?最重要的是,在听取 AI 的回答时,至少有一次批判性地反问:“这些信息是从哪里学习来的?”因为 AI 既是我们抛出问题的镜子,也可能是某人刻意配置的数据的反映物。


参考资料

  1. [ChatGPT asked famous Israelis questions - here are their answers The Jerusalem Post](https://www.jpost.com/j-spot/article-738709)
  2. Making Israel’s case to ChatGPT and Grok: Hasbara meets AI in multi-million dollar PR push - YouTube
  3. [Israel wants to train ChatGPT to be more pro-Israel Responsible Statecraft](https://responsiblestatecraft.org/israel-chatgpt/)
  4. [Report: Israel to spend over half a billion shekels turning ChatGPT into public diplomacy tool Ynetnews](https://www.ynetnews.com/tech-and-digital/article/rj00kxqzaxx)
  5. [Ask ChatGPT about Israel — your location may change the answer Ynetnews](https://www.ynetnews.com/tech-and-digital/article/skilyoscwx)
  6. Making Israel’s case to ChatGPT and Grok - Haaretz
  7. [Israel didn’t sign a deal with ChatGPT. Here’s what actually … Yahoo News](https://uk.news.yahoo.com/israel-didnt-sign-deal-chatgpt-233300413.html)
  8. [Israel wants to train ChatGPT to be more pro-Israel DefendDemocracy.press](https://www.defenddemocracy.press/israel-wants-to-train-chatgpt-to-be-more-pro-israel/)
AD
测试你的理解
Q1. 以色列政府正在推进的数字宣传策略的核心是什么?
  • 与 OpenAI 直接签约修改系统
  • 通过虚假研究所网站等方式故意制作供 AI 参考的数据
  • 阻止用户使用 AI
以色列政府通过名为“钟楼(Clock Tower)”的公司生成供 AI 模型参考的网站和内容,从而引导 AI 以特定视角阐述有关以色列的问题。
Q2. 以色列的宣传代理公司主要瞄准的目标群体是谁?
  • 中老年群体
  • 全球学者
  • Z 世代 (Gen Z)
根据与“钟楼”公司的合同内容,所制作内容中至少 80% 针对的是使用 TikTok、Instagram 等平台 Z 世代群体。
Q3. AI 在回答有关以色列的问题时表现出的特征是什么?
  • 在全球范围内回答一致
  • 根据用户位置,回答内容或论调可能有所不同
  • AI 绝对不会回答政治性问题
研究结果显示,在以色列当地,聊天机器人会做出强调安全与自卫权的回答,确认了根据用户位置回答的论调可能存在差异。