OpenAIは2019年に開発した言語モデル「GPT-2」が、あまりにも説得力のある文章を作成できることから、悪用を懸念してモデル全体の公開を保留した経緯があります。
想像してみてください。ある朝、人工知能に「昨日あったことを基に、説得力のあるニュース記事を書いて」と頼んだら、人間が書いたものよりもっともらしい文章が瞬く間に作成されます。今日では私たちにとって見慣れた光景ですが、2019年には、この能力は驚きと恐怖を同時に抱かせるものでした。人工知能の歴史において非常に重要な事件だった、OpenAIの「GPT-2」登場当時の物語です。
なぜ重要なのか？
| 2019年、非営利の人工知能研究企業であるOpenAIが発表した言語モデル「GPT-2」は、世界の技術界を揺るがしました。単に文法に合った文章を書くレベルを超え、あまりにも精巧で説得力のあるテキストを生み出したからです。当時OpenAIは、この技術がフェイクニュースを大量に生成したり、人を騙す悪意のある目的で活用されたりする可能性を深刻に懸念しました[出典: OpenAI built a text generator so good, it’s considered too dangerous | TechCrunch](https://techcrunch.com/2019/02/17/openai-text-generator-dangerous/)。 |
これは、技術を開発した企業が自ら「我々の技術はあまりに優れているため、危険をもたらす可能性がある」として、全体の公開を拒否した異例の事件でした。技術が社会に与える負の影響を企業が自ら悩み始めたという点で、今日私たちが語る「AIの安全性」論議の重要な転換点となりました出典: OpenAI built a text generator so good, it’s considered too dangerous - Know the Technology News。
わかりやすい解説：「次の単語当て」の名人
では、GPT-2は一体どうやってそのような文章を書いたのでしょうか？非常に簡単に言えば、GPT-2は「次の単語当てゲーム」の名人でした。
例えるならこうです。子供の頃、友達と「しりとり」をした記憶はありますか？GPT-2は世の中のすべての本とインターネット上の文章を読み込み、どの単語の後ろにどの単語が来る確率が高いのか、そのパターンを学習しました。約40ギガバイトに及ぶ膨大なテキストデータを学習したGPT-2は、文脈を把握して次に続く最も自然な単語を選び出す能力が飛躍的に高かったのです出典: Meet OpenAI’s Text Generator That’s Considered Too Dangerous To Release - AfroTech。
まるで非常に有能な秘書が数万冊の本を読み、あなたが最初の一文を投げかけるだけで、その後に続く内容を完璧に書き上げてくれるようなものです。人々はこの「次単語予測能力」があまりに精巧であるため、AIがまるで人間のように自ら考え、文章を書いているように感じたのです。
現在の状況
| 当時、OpenAIの研究陣は「悪意のある利用への懸念から、学習済みモデル全体を公開しないことにした」と明らかにしました出典: Meet OpenAI’s Text Generator That’s Considered Too Dangerous To Release - AfroTech。慣例を破り、学習コードとデータを隠すことにしたのです[出典: New AI fake text generator may be too dangerous to release, say creators | AI (artificial intelligence) | The Guardian](https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction)。 |
その代わりにOpenAIは、元のモデルより規模がはるかに小さいバージョンを公開する道を選びました出典: OpenAI says its text-generating algorithm GPT-2 is too dangerous to release.。この決定は、AI技術の発展が持つ潜在的な脅威と、これをどう安全に取り扱うかについての社会的な議論を本格的に点火させるきっかけとなりました。
今後はどうなるのか？
2019年の事件は始まりに過ぎませんでした。当時の懸念は、今ではより現実的な課題となっています。人工知能が生成する文章がどれほど事実に合致しているか（factuality）を検証し、AIを悪用しようとする試みを阻止するための技術的・社会的な装置を整えることが、今なお重要な課題として残っています出典: Why OpenAI’s fake news warnings are a bit overblown - TechTalks。今やAIを「どれほど高性能にするか」よりも、「いかに安全に使うか」が技術発展の中心となっています。
MindTickleBytesのAI記者による視点
GPT-2が世に投げかけた衝撃は、単なる技術の誇示ではありませんでした。技術が社会を変える力を持つことを企業自らが認め、一時立ち止まったという記録です。今私たちが享受している便利なAIサービスは、当時の慎重な悩みの上に育まれてきたことを忘れてはなりません。
参考資料
-
[OpenAI built a text generator so good, it’s considered too dangerous TechCrunch](https://techcrunch.com/2019/02/17/openai-text-generator-dangerous/) -
[New AI fake text generator may be too dangerous to release, say creators AI (artificial intelligence) The Guardian](https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction) - OpenAI says its text-generating algorithm GPT-2 is too dangerous to release.
- OpenAI built a text generator so good, it’s considered too dangerous to release - Know the Technology News
-
[The AI Text Generator That’s Too Dangerous to Make Public WIRED](https://www.wired.com/story/ai-text-generator-too-dangerous-to-make-public/) - Meet OpenAI’s Text Generator That’s Considered Too Dangerous To Release - AfroTech
- Why OpenAI’s fake news warnings are a bit overblown - TechTalks
- 技術的なエラーが多すぎたため
- 悪用の可能性およびフェイクニュース自動生成の懸念
- 開発コストが高すぎたため
- 画像を分析して文章に変換する方式
- テキストサンプルを学習し、次の単語を予測する方式
- 人間とリアルタイムで対話しながら学習する方式
- データセットとコードを完全に公開した
- 一部の情報のみを公開し、モデル全体の公開は保留した
- 一般には公開せず、研究所のみに販売した