イスラエル政府が数千億ウォン規模の予算を投入し、AIチャットボットがイスラエル関連情報を特定の方法で回答するように誘導する戦略を推進しています。
想像してみてください。今日の夕方、AIチャットボットに「今ニュースで流れているイスラエル関連のイシューをまとめて」と尋ねました。チャットボットは、非常にもっともらしい口調で丁寧に説明を続けます。あなたは、AIが膨大なインターネット資料をもとに、最も「中立的」な回答を出していると信じています。しかし、もしその回答が、特定の政府の予算で精巧に組まれた「学習用台本」の結果だとしたらどうでしょうか。
最近、イスラエル政府が人工知能(AI)を活用した新しい形態のデジタル広報戦略を展開している事実が明らかになり、論争が起きています。単に人々に広告を見せるだけでなく、AIが世界を見る「データのレンズ」そのものを変えようとしているからです。
なぜ重要なのか (Why It Matters)
私たちは今、疑問があればポータルサイトの検索よりも、ChatGPTのようなAIチャットボットに先に尋ねます。AIの回答はすでに私たちの考えの指針となっています。もし誰かがこの「指針」に対して、特定の方向にだけ向くように密かに地図を描いているとしたら、私たちは無意識のうちにその方向にだけ思考するリスクがあります。
イスラエル政府が推進する今回の戦略は、単に国家広報映像を作るレベルを超えています。AIがインターネット上のデータを学習するという点を利用し、AIの「知識の倉庫」そのものを自分たちに有利な情報で満たそうとする試みだからです。これはデジタル時代の民主主義と情報の信頼性について、私たちが真剣に悩むべき大きな課題を投げかけています。
分かりやすい解説 (The Explainer)
AIが回答する原理を「巨大な図書館」に例えてみましょう。図書館の司書(AI)は、数多くの本(インターネットデータ)を読み、客(ユーザー)の質問に答えます。これまで司書は、図書館にあるすべての本を公平に参考しているように見えました。
ところが、イスラエル政府が雇用した広報代行業者「クロック・タワー(Clock Tower X LLC)」は、この図書館に密かに特定の内容が盛り込まれた本を大量に送り込もうとしています。出典: Responsible Statecraft しかもこれらの本は、一般的な広報物ではなく、権威ある「研究所」や「シンクタンク」が書いたかのように精巧に偽装されています。出典: Haaretz
簡単に言えば、AIが「どこから情報を得るか」を操ろうとしているのです。ChatGPTやGemini、ClaudeのようなAIモデルが学習過程でこの「偽の研究所」の資料を参考にすれば、自然とイスラエルの立場を反映する回答を出す確率が高まります。この方式を専門用語で「GPTフレーミング(GPT framing)」と呼びます。出典: Ynetnews 例えるなら、司書が特定の観点の本ばかりを読み続けさせ、結局客にその観点どおりに回答させるようなものです。
現在の状況 (Where We Stand)
イスラエル政府はこのプロジェクトのために、半十億シェケル(数千億ウォン台)以上の莫大な予算を投入していることが分かっています。出典: Ynetnews このうち600万ドル規模の契約を結んだクロック・タワーは、特にTikTok、インスタグラム、YouTubeなどを利用するZ世代にアプローチできるコンテンツ制作に集中しています。出典: DefendDemocracy.press
注目すべき点の一つは、実際にAIが私たちがどこにいるかによって異なる回答を出しているという事実です。研究結果によると、イスラエル現地でChatGPTに質問した際、このチャットボットは安全保障と自衛権、テロとの戦争を強調する言語を使用する一方、道徳的な質問にはさらに慎重な態度を見せました。出典: Ynetnews
もちろん、OpenAIとイスラエル政府がAIの回答を直接修正することに契約したというような噂は、事実ではないことが明らかになりました。出典: Yahoo News しかし今回の戦略は、AIを直接操る代わりにAIが食べて育つ「データ環境」を操作するという点で、はるかに巧妙で脅威的であると評価されています。
今後の展望 (What’s Next)
今後、政府や巨大企業がAIを活用して自国や自社の利益を代弁しようとする試みはさらに増えるでしょう。情報の真実を把握することが、今よりもはるかに困難になる可能性があります。
オメル・ベンヤコブ(Omer Benjakob)記者をはじめとする多くの専門家は、このような試みが実際どれほどの効果があるか疑問を呈し、このような方式が情報生態系を汚染させる可能性があると警告しています。出典: Haaretz デジタル時代の賢明な利用者になるために、私たちは何ができるでしょうか。最も重要なのは、AIの回答を聞くとき、一度「この情報はどこで学習されたものだろうか?」と批判的に問い返す態度です。AIは私たちが投げる質問の鏡であると同時に、誰かが意図的に配置したデータの反映物でもあるからです。
参考資料
-
[ChatGPT asked famous Israelis questions - here are their answers The Jerusalem Post](https://www.jpost.com/j-spot/article-738709) - Making Israel’s case to ChatGPT and Grok: Hasbara meets AI in multi-million dollar PR push - YouTube
-
[Israel wants to train ChatGPT to be more pro-Israel Responsible Statecraft](https://responsiblestatecraft.org/israel-chatgpt/) -
[Report: Israel to spend over half a billion shekels turning ChatGPT into public diplomacy tool Ynetnews](https://www.ynetnews.com/tech-and-digital/article/rj00kxqzaxx) -
[Ask ChatGPT about Israel — your location may change the answer Ynetnews](https://www.ynetnews.com/tech-and-digital/article/skilyoscwx) - Making Israel’s case to ChatGPT and Grok - Haaretz
-
[Israel didn’t sign a deal with ChatGPT. Here’s what actually … Yahoo News](https://uk.news.yahoo.com/israel-didnt-sign-deal-chatgpt-233300413.html) -
[Israel wants to train ChatGPT to be more pro-Israel DefendDemocracy.press](https://www.defenddemocracy.press/israel-wants-to-train-chatgpt-to-be-more-pro-israel/)
- OpenAIと直接契約してシステムを修正した
- 偽の研究所ウェブサイトなどを通じてAIが参照するデータを意図的に制作する
- ユーザーがAIを使えないように遮断する
- 壮年層
- 世界中の学者たち
- Gen Z(Z世代)
- 世界中どこでも同じように回答する
- ユーザーの位置によって回答内容や論調が変わることがある
- AIは政治的な質問には絶対に回答しない