スマホに隠れた14MBのAIエージェント？「Needle2」が登場

AI Summary

14MBという超小型サイズで、スマートデバイスにおけるツール操作に特化した機能を実行する人工知能モデル「Needle2」が公開されました。

想像してみてください。朝起きてスマートウォッチに向かって「今日の予定に合わせて、部屋の温度を22度にして」と話しかけます。あなたのスマートウォッチは、サーバーを経由することなく即座にこの要求を理解して実行します。巨大で重いAIではなく、あなたの手首の上で呼吸するように軽い人工知能が動いているからです。

最近、Cactus Computeが公開したNeedle2は、まさにこのような未来を手繰り寄せる技術です。14MBという驚くほど小さなサイズの人工知能モデルが、身の回りのデバイスに命を吹き込もうとしています。

なぜこれが重要なのか？

これまでAI技術は「より大きく、より膨大に」を追い求めてきました。しかし、大規模言語モデル（LLM、膨大なデータを学習して人間のように文章を書くAI）を動かすには莫大なサーバー容量と電力が必要です。そのため、スマートフォンやスマートウォッチのような日常的なデバイスで巨大AIを直接動かすことは、事実上不可能に近いことでした。

Needle2のような超軽量モデルは、私たちに「オンデバイスAI（On-device AI、外部サーバーに接続せずデバイス自体で駆動する人工知能）」の可能性を示してくれます。スマートフォン、ウェアラブルデバイス、ロボット、さらにはESP32-S3のようなミニコンピュータ（マイクロコントローラ）でも、即座にAIサービスを享受できることを意味します。データがサーバーへ送られないためプライバシー保護の観点でも有利で、インターネット接続が不安定な環境でもAIエージェント（ユーザーの命令を代理実行するAI）機能を使用できます。

簡単に例えると：「教授」ではなく「秘書」

こう例えると分かりやすいでしょう。既存の巨大言語モデルが、世界のあらゆる知識を百科事典のように頭に詰め込んだ「博学な教授」なら、Needle2は小さく機敏な「熟練の秘書」です。

博学な教授は会話は上手ですが、秘書のように実際のオフィスの機器を操作したりアプリを実行したりすることは苦手かもしれません。一方、Needle2は一般的な雑談を交わすことよりも、ツール呼び出し（Tool calling、AIが直接外部アプリや機器を制御する機能）と構造的データの抽出にすべての能力を集中させました。2,600万個のパラメータ（Parameter、AIが知識を保存する調節可能な数値）を持つこのモデルは、モバイル機器で1秒間に1,000〜6,000トークン（Token、AIが認識する単語単位）を処理するほど高速です。

つまり、Needle2は小さくて速いけれど、指示された仕事を正確に実行できる「実務型秘書」なのです。特にこのモデルは、自ら自分が間違っていることを認識して助けを求める（Request assistance）ように訓練されている点も注目されます。

現在の状況

現在、Needle2は次のような環境で動作する準備が整っています。

超小型容量: わずか14MBのバイナリファイルで構成されており、約28MBのRAMがあれば駆動します。
多様なプラットフォーム: スマートフォンはもちろん、ウェアラブル、ロボット、スマートホーム、自動車など多様なデバイスへの搭載が可能です。
技術的特性: オープンソースであるApache 2.0ライセンスで公開されており、誰でもHugging Faceからモデルの重みをダウンロードして使用できます。
クラウド連携: 基本的にデバイス自体で動きますが、必要に応じてクラウドバックアップ（Cloud fallback）機能も備えています。

ただし、一般的な対話型AIではないため、友達とおしゃべりをする目的には適していません。機器制御のようなエージェント業務に特化したモデルです。