AI 回答比我说话还快?超高速语言模型“Mercury 2.5”的故事

描绘数据在数字网络中高速流动的图形图像
AI Summary

随着每秒生成 770 到 1107 个 token 的超高速 AI“Mercury 2.5”的出现,实时对话式 AI 服务的响应速度有望实现突破性改善。

试想一下,当你和朋友通过即时通讯软件聊天时,对方在你话还没说完时就给出了正确答案,并在一秒内总结了你发送的长文。这感觉就像身边坐着的不是 AI,而是思维速度与你完全同步的某个人。

最近,人工智能行业正在让这一幕成为现实。Inception Labs 推出的全新语言模型“Mercury 2.5”就是这一变革的主角。它不仅聪明,而且以“光速”响应。让我们来看看这款模型将如何改变我们的日常生活。出处:Inception Labs 博客

为何重要? (Why It Matters)

我们平时使用的 AI 聊天机器人在回答问题时,有时需要“思考时间”。你可能见过屏幕上的文字像打字机一样一个接一个地蹦出来,这是因为 AI 是按照顺序生成词汇的。

然而,Mercury 2.5 完全颠覆了这一速度逻辑。根据人工智能分析公司 Artificial Analysis 的测量,该模型每秒可生成约 770.4 个 token(AI 处理文字的最小单位)。出处:Sam Codeman 据开发商报告,在特定环境下甚至能达到每秒 1107 个。出处:Pradha 这一速度比现有 AI 模型快了整整 7 倍。出处:AIPULSEN

简单来说,Mercury 2.5 只需 1 秒就能完成现有 AI 需要 7 秒思考的工作量。一旦这种速度得以实现,我们在与 AI 进行语音对话时感受到的微小延迟将彻底消失。实时翻译机或编程助手将如真人般即时响应。出处:TechBriefe

通俗解释 (The Explainer)

传统的大型语言模型 (LLM) 主要使用“Transformer”(一种识别句子中词汇之间关系的 AI 结构)。这就像从头到尾老老实实地阅读一本书,速度自然存在明显的瓶颈。

而 Mercury 2.5 使用了一种独特的“扩散 (Diffusion)”技术。出处:OpenRouter 打个比方,如果说传统 AI 是“一个字一个字写小说的勤奋作家”,那么 Mercury 2.5 就更像“画家”——先勾勒出整体构图,再将细节一气呵成地填充进去。

这种技术在专业上被称为“并行 token 生成与精炼 (Parallel token generation and refinement)”。因为它能同时考虑并打磨多个词汇,所以产出结果的速度要快得多。出处:Benchable

当前现状 (Where We Stand)

目前的 Mercury 2.5 不仅速度快,还具备 260,000 token 的超大规模上下文窗口。出处:Blog Build Fast With AI 这意味着它能够一次性读取并记住几十本厚书的内容。此外,它还支持结构化数据输出、工具调用和复杂的逻辑推理,具备极高的实用价值。出处:Blog Build Fast With AI

不过,技术指标会因测量方式不同而产生差异,且在处理极其复杂的专业任务时,Mercury 2.5 是否比现有的巨型模型具有实际性能优势,仍需广大用户进一步验证。出处:6ic

未来展望 (What’s Next)

未来,AI 服务的竞争点将不再仅仅是“有多聪明”,而是“响应有多快”。特别是在语音助手、实时咨询、游戏内 NPC 等对即时响应要求极高的领域,Mercury 2.5 这类模型的表现值得期待。出处:CallMissed 你的智能手机中搭载反应更迅速的 AI 助手、提问即刻得到反馈的那一天,已然不远。


参考资料

  1. Sam Codeman, Mercury 2.5 770 token/s 基准测试
  2. 6ic, Mercury 2.5 LLM 达到每秒 770 token
  3. Pradha, Mercury 2.5:Inception 的超高速扩散型 LLM
  4. TechBriefe, Mercury 2.5 LLM 推理速度达到每秒 770 token
  5. VK.ru, Mercury 2.5 LLM 达到每秒 770 token
  6. Inception Labs, Mercury 2.5 介绍
  7. Kunal Ganglani, Mercury 2.5 770 token/s 基准测试 (2026)
  8. Blog Build Fast With AI, Mercury 2.5 AI 模型测评
  9. AIPULSEN, Mercury 2.5 LLM 达到每秒 770 token
  10. CallMissed, Mercury 2.5 扩散型 LLM
  11. Benchable, Inception: Mercury 2.5 AI 模型详细信息及基准测试
  12. Telegram (Hacker News Feed), Mercury 2.5 LLM 达到每秒 770 token
  13. OpenRouter, Mercury 2.5 API 定价及基准测试
AD
测试你的理解
Q1. Mercury 2.5 相比现有模型最大的特点是什么?
  • 价格更低廉
  • 压倒性的文本生成速度
  • 仅限离线运行
Mercury 2.5 每秒可生成 770 到 1107 个 token,速度比现有模型快约 7 倍。
Q2. Mercury 2.5 基于何种技术方式?
  • Transformer 专用模型
  • 基于扩散(Diffusion)的模型
  • 顺序简单运算模型
Mercury 2.5 是由 Inception Labs 开发的基于扩散的大型语言模型(dLLM)。
Q3. Mercury 2.5 的上下文窗口(Context Window)是多少?
  • 26 万 token
  • 10 万 token
  • 50 万 token
Mercury 2.5 支持 260,000 token 的大规模上下文范围。