様々なAIモデルがパックマンゲームでリアルタイムに幽霊を避けながら、どれほど正確かつ迅速に判断を下せるかを測定するオープンソースのベンチマークプロジェクト「Jevman」について取り上げます。
想像してみてください。あなたはアーケードゲームの筐体の前に座り、パックマン(Pac-Man)を操作しています。画面の中では幽霊たちが猛スピードであなたを追いかけてきます。ここであなたは0.1秒ごとに「左に行くか、右に行くか?」を決めなければなりません。人がプレイすれば手に汗握るこの緊迫した瞬間、人工知能(AI)は果たしてどのように判断しているのでしょうか?
最近、AIの判断力をリアルタイムでテストするために、非常に興味深い「パックマンベンチマーク」が登場しました。それがJevmanです。
なぜこれが重要なのか?
私たちが普段使っている賢いAIは、長い文章を読んで内容を要約することには長けていますが、非常に短い時間で即座に判断を下さなければならない状況では、どのような実力を見せるのでしょうか?
Jevmanは、このようなAIの「決定(Decision-making)」能力を試験するために作られました。私たちが日常生活でAIに「今すぐ傘を持つべきか?」や「この投資案件を受諾するか?」といった判断を委ねるとき、AIは非常に短い時間内に複雑な状況を分析しなければなりません。パックマンは、幽霊の動きを見て道を探す過程が、このような複雑な意思決定プロセスをシミュレーションするのに最適な環境を提供します。
| 簡単に言えば、JevmanはAIが単純な言語知識を超え、リアルタイムで急迫した状況下において、どれほど速く正確に正しい行動を選択するかを客観的に評価する、一種の「AI頭脳試験場」なのです。 [[参考資料: jevman: AI decision models play Pac-Man | VibeLeaderboard](https://www.vibeleaderboard.ai/app/17f8acd3-69b1-4c04-b083-30957220898d)] |
わかりやすい解説
「Jevman」が行うテストは、まさに「AIのための運転免許実技試験」のようなものです。
- 状況認識 (State): AIモデルは、現在パックマンがどこにいて、幽霊がどこにいるのか、画面の状態を情報として受け取ります。 [参考資料: GitHub - denis-shvets/jevman-benchmark: Pac-Man driven by the …]
-
判断 (System One decision): 「システム・ワン(System One)」と呼ばれる、速く本能的な意思決定モデルがこの情報を分析します。例えるなら、熱い鍋に手が触れたときに反射的に避けるような直感的な判断です。 [[参考資料: Jev: System One Decision Model Explained AIJev](https://aijev.org/)] - 行動 (Action): AIは判断結果に従い、上、下、左、右のいずれかを決定してパックマンを移動させます。 [参考資料: GitHub - codaaiteam/jev-pacman: You drive Pac-Man; Jev…]
| このプロセスが、非常に短いミリ秒(ms)単位で繰り返されます。これを初心者が道路の車線と信号を見てハンドルを切るプロセスに例えるなら、AIはゲームの中でパックマンを操作しながら運転技術を磨いているようなものです。現在、この試験場に参加している6つのAIモデル(jev 1.13、kev、clef、clef flash、GPT-6 Luna、Layaなど)は、それぞれ100回ずつパックマンゲームを行い、自身の判断力を証明しています。 [[参考資料: jevman: AI decision models play Pac-Man | TheaterFire](https://theaterfi.re/post/3741604), [参考資料: Jevman: AI Decision Models Play Pac-Man | VibeLeaderboard](https://www.vibeleaderboard.ai/app/17f8acd3-69b1-4c04-b083-30957220898d)] |
現在の状況
| Jevmanは、単にAIがゲームを楽しむという事実に留まりません。すべてのゲーム記録は公開されており、誰でも視聴することができ、誰がより高いスコアを出したか一目で確認できる公式リーダーボードが存在します。 [[参考資料: jevman: a Pac-Man benchmark for decision models | OpperAI](https://opper.ai/jevman-benchmark/), 参考資料: jevman — Six AI decision models play Pac-Man, ranked live] |
さらに興味深いのは、このプロジェクトがオープンソースであるという点です。つまり、AI開発者であれば誰でも自分のモデルをJevmanベンチマークに登録して性能を測定できます。一般ユーザーでさえ、直接パックマンをプレイしてみながら、自分のスコアとAIモデルのスコアをリアルタイムで比較することができます。「果たして人間がAIよりも優れた判断を下せるのか?」という疑問を直接確認できるのです。 [参考資料: jevman · Can you beat the AI at Pac-Man?, 参考資料: jevman — Six AI decision models play Pac-Man, ranked live]
今後の展望
Jevmanのようなゲームベースのベンチマークは、今後さらに増えるでしょう。AIが単に知識をひけらかす段階を超え、実際の私たちの日常生活の中でソフトウェアを制御し、ビジネスルールに合わせて自動的に決定を下す「行動するAI」へと進化しているからです。
これからはAIを選ぶ際、単に「誰がより上手に話せるか」ではなく、「誰がより急迫した状況でミスなく正しい判断を下せるか」を悩むようになるでしょう。Jevmanは、そのような未来に備えるためにAIたちに与えられた、パックマンという名の楽しい練習場なのです。
MindTickleBytesのAI記者視点: AIが膨大な論文を読んで創作を行うのも驚きですが、パックマンのような緊迫したゲームの中でミスを減らしていく過程を見守ることは、AIの「実戦筋肉」を見るようで、はるかに現実的に感じられます。今後、さらに多くの「ゲーム型ベンチマーク」が登場し、AIの判断力をより精巧に検証してくれることを期待します。
参考資料
-
[jevman: a Pac-Man benchmark for decision models OpperAI](https://opper.ai/jevman-benchmark/) - jevman · Can you beat the AI at Pac-Man?
- GitHub - joch/jevman: Pac-Man driven by the jev decision model
-
[jevman: AI decision models play Pac-Man TheaterFire](https://theaterfi.re/post/3741604) - Show HN: Jevman – AI decision models play Pac-Man
- jevman — Six AI decision models play Pac-Man, ranked live
- GitHub - denis-shvets/jevman-benchmark: Pac-Man driven by the …
-
[Jevman: AI Decision Models Play Pac-Man VibeLeaderboard](https://www.vibeleaderboard.ai/app/17f8acd3-69b1-4c04-b083-30957220898d) -
[Jev: System One Decision Model Explained AIJev](https://aijev.org/) - GitHub - codaaiteam/jev-pacman: You drive Pac-Man; Jev…
- AIのグラフィック処理能力をテストする
- AIモデルのリアルタイムで速く正確な判断力をテストする
- AIがどれだけ長くゲームを続けられるかを競う
- モデルごとに10回ずつ計50ゲームをプレイした
- モデルごとに100ゲームずつ計6つのモデルがプレイした
- 人間とAIが1対1で対決した
- 有料サービスでのみアクセスできる
- 結果を外部に公開しない
- オープンソースで誰でも自分のモデルを提出できる