NariQはAIモデルのサイズを大幅に削減する量子化技術であり、10万トークンを超える長期エージェントのタスクでもオリジナルモデルと同等の性能を発揮する初の技術です。
想像してみてください。あなたが人工知能(AI)に「うちの会社の過去3年分の売上データを分析し、各部門別の報告書を検討した後、誤りのある部分を修正して最終結論をメールで送ってくれ」と複雑な雑用を頼んだとします。AIは1人で複数のツールを開き、数万行の文書を読みながら何十段階にもわたって作業を一つずつ着実に遂行していきます。
このように、AIが単に質問に答えるだけでなく、長い対話や文書の中で自ら判断し、複数のツールを組み合わせて長期的な目標を達成するプロセスを長期エージェントタスク(Long-horizon agentic tasks)と呼びます。比喩するなら、短答式クイズを解くのではなく、数ヶ月間行われる大型プロジェクトを1人で企画し完遂する専門コンサルタントの姿に似ています。こうした作業には通常、10万(100K)トークン以上の膨大に長い記憶空間(コンテキスト)が必要となります [出典タイトル]。
しかし、現実的な問題があります。能力の優れた大規模言語モデル(LLM、人類の言語を理解・生成する大規模人工知能モデル)はサイズが大きすぎて、一般のコンピュータやスマートデバイスで稼働させることが非常に困難です。この巨大なモデルのサイズをスリム化する技術を量子化(Quantization、AIモデル内部の数値精度を落として容量を削減する技術)と呼びますが、これまでの量子化技術には致命的な弱点がありました。短い文章にはかなり耐えられますが、複雑で長いエージェント業務の前では性能が半分に落ち込んでしまっていたのです [出典タイトル]。
最近、研究チームはこの限界を華やかに突破しました。それがNariQという新しい量子化手法です。サイズを針の穴のように小さくしながらも、天才的なエージェント能力をそのまま維持する秘訣が何なのか、これから一つずつ見ていきましょう。
なぜ重要なのか?
人工知能技術が発展するにつれて、モデルのサイズはますます巨大化しています。数千億個のパラメータ(Parameter、AIモデル内部の調整可能な数値で人間のシナプスの役割を果たす)を持つモデルをオリジナル状態(BF16、16ビット浮動小数点精度)のまま実行するには、膨大なサーバー費用と莫大な電力が必要となります。一般の開発者や企業が高性能AIをローカル環境やコスト効率の高いインフラで思う存分使うことは容易ではありません。
これを解決するために、モデルの各重み(Weight、神経망の結合の重要度を示す重み値)が占めるビット数を下げる低ビット(Low-bit)量子化が広く使われてきました。例えば、モデルを3ビット以下に圧縮すれば、ストレージ容量とメモリ使用量を劇的に削減できます。
しかし、ここで大きな壁にぶつかりました。従来の多くの低ビット量子化手法は、インターネット上の短いウェブテキストを基準に補正され、性能評価も短答式テストや言語理解度(Perplexity)中心に行われていました [出典タイトル]。
こうした方式のミスマッチ(Mismatch、理論と実際の環境の不調和)はコストが大きかったです。分かりやすく言えば、普段から分厚い小説や百科事典を読む練習ばかりしていて、いざ会社に就職して実務を処理しようとしたら道に迷ってしまうようなものです。実際に従来方式で圧縮されたQwen3.8-27Bモデルは、AIMEのような比較的短いテスト問題ではオリジナル(BF16)と同等の性能を出しましたが、DeepSWEのような実際の長期エージェントベンチマークではオリジナル性能の最大72%しか発揮できませんでした [出典タイトル]。つまり、テストはよくできるが実務に投入するとすぐに疲れたり道に迷ったりする、中途半端なダイエットだったわけです。
NariQはまさにこの点を正面から狙っています。モデルのサイズを3ビット未満に極端に縮小しながらも、複雑な実務やツール呼び出しが飛び交う長期エージェントタスクにおいてオリジナルと全く同じ性能を発揮する初の量子化手法として登場しました [出典タイトル]。
分かりやすく解説
量子化とNariQの原理を分かりやすく理解するために、料理人のトレーニングに例えてみましょう。
ステップ1:教科書だけで勉強した料理人と実際の厨房で訓練した料理人
従来の量子化手法は、AIを圧縮する際にインターネット上に溢れるよくまとまった短い文章(料理の教科書の理論)のみを使用してモデルを補正していました。そのため、AIは架空の理論テストはうまく解けたものの、実際の厨房で客が絶えず注文が殺到する緊迫した状況(長期エージェントセッション)に直面すると、戸惑い始めるのでした。
一方、NariQ(トレリス符号化ベース事後量子化手法、Trellis-coded post-training quantization method、格子構造符号化を活用して情報損失を最小限に抑えながらモデルを圧縮・補正する技術)は、全く異なるアプローチを取りました。NariQは、全精度(BF16)モデルが実際のエージェントセッションの中でツールを呼び出し、対話を交わしながら生成した生き生きとしたトークンを直接、学習・補正データとして活用しました [出典タイトル]。
簡単に言えば、料理人にレシピ本だけを暗記させたのではなく、実際の忙しいレストランの厨房でスーシェフが動いた動線やノウハウをそのまま見ながら圧縮訓練を受けさせたのです。このおかげで、モデルはサイズを縮小しても実際のエージェント業務で迷うことなく完全に適応できるようになりました。
ステップ2:圧縮の限界、どこまで減らせるのか?
研究チームはQwen3.8-27Bモデルを対象に、様々なビット水準でNariQの性能を徹底的に検証しました [出典タイトル]。
- 3.0ビット・パー・ウェイト(3.0 bits per weight、パラメータあたり3.0ビットを使用)
- 2.5ビット・パー・ウェイト(2.5 bits per weight、パラメータあたり2.5ビットを使用)
- 2.0ビット・パー・ウェイト(2.0 bits per weight、パラメータあたり2.0ビットを使用)
比喩するなら、分厚い百科事典をそれぞれ30%、25%、20%の厚さのコア要約ノートに圧縮するようなものです。驚くべきことに、3.0ビットと2.5ビットに圧縮されたモデルは、オリジナル(BF16)モデルと比較して性能低下がほとんど目立たないほど完璧な水準を示しました [出典タイトル]。ただし、2.0ビット水準へとさらに削減したチェックポイントでは、若干の性能限界(劣化)が現れました [出典タイトル]。
現在の状況
NariQの性能は、公認された複数のベンチマーク(性能評価のための標準テストセット)テストを通じて厳格に実証されました。研究チームはQwen3.8-27BモデルをNariQで圧縮した後、次のような厳しい評価指標に当てはめました [出典タイトル]。
- DeepSWE: 複雑なソフトウェアエンジニアリング問題を扱う代表的な長期エージェントベンチマークです。従来の低ビット量子化モデルはオリジナル性能の72%水準にとどまりましたが、NariQ(3.0および2.5ビット)はオリジナル(BF16)と同等の水準の性能を完全に維持しました [出典タイトル]。
- Terminal Bench: ターミナル(コマンドベースのインターフェース)環境で複数のコマンドを組み合わせて長期的なタスクを遂行するエージェント評価環境です。こちらもオリジナル水準の高い精度を記録しました [出典タイトル]。
- AIMEおよびRealWorldQA: 数学的推論能力と現実世界の視覚的・論理的理解度を測定するベンチマークでも、NariQ圧縮モデルはオリジナルの性能を少しも損なうことなく同様に発揮しました [出典タイトル]。
長期エージェントタスクは、10万トークンを超える長いコンテキストの中で多数の段階にわたってツールを呼び出す必要があるため、エラーが蓄積しやすい構造です [出典タイトル]。3ビット未満の超低ビット量子化モデルが、この長期戦をオリジナルと同様に完走したのは今回が業界初となります [出典タイトル]。
現在、研究チームはこの技術の成果を誰もが利用できるようにオープンソースとして公開しています。関連ファイルは Qwen3.8-27B-NariQ-GGUF(https://huggingface.co/nari-labs/Qwen3.8-27B-NariQ-GGUF)を通じて配布されており、推論作業は専用にフォークされた llama.cpp(https://github.com/nari-labs/nari-llama.cpp)を通じて簡単にご利用いただけます [出典タイトル]。
今後の展望
NariQの登場は、AIエコシステムに実質的な変化を予告します。これまで高性能AIエージェントをローカルコンピュータやコストが制限された環境で稼働させることは、巨大なハードウェアの壁に阻まれていました。しかし、3ビット未満の超低ビットでもエージェントの核心的な知性が維持されるのであれば、パーソナルコンピュータやエッジデバイス(サーバーではなくユーザー周辺の機器)でも強力な自律型AIエージェントを負担なく実行できる道が開かれます。
今後は単にモデルのサイズを縮小するだけでなく、「AIが実際にどのような目的のために使われるのか(エージェントワークフロー)」に合わせて圧縮アルゴリズムを最適化する研究が主流になるでしょう。10万トークン以上の長いスパンでコーディングを行い、文書を分析し、ツールを自在に使いこなすスマートなAIアシスタントを自分のコンピュータ上で出会える日が目前に迫っています。
AIの視点
単なる知識暗記型のAIを超え、自らツールを使い長期的なスパンで働く「エージェント時代」には、圧縮技術もまた実務のパターンに似せなければならないという点をNariQはよく示しています。容量の壁を打ち破りながらも実戦能力を守り抜いた今回の成果は、オンデバイスエージェントの大衆化に向けた強力な呼び水となるでしょう。
参考資料
- NariQ: Sub-3-Bit Quantization for Long-Horizon Agentic Tasks - https://arxiv.org/abs/2611.26157
- 短いウェブテキストで補正
- エージェントセッションでモデルが生成したトークンで補正
- 画像生成速度の向上
- 1.0ビット
- 3.0および2.5ビット
- 8.0ビット
- 100Kトークン以上のコンテキストで複数のステップにわたるツール呼び出し
- 単文の翻訳
- 簡単な画像分類