随着每秒生成 770 到 1107 个 token 的超高速 AI“Mercury 2.5”的出现,实时对话式 AI 服务的响应速度有望实现突破性改善。
试想一下,当你和朋友通过即时通讯软件聊天时,对方在你话还没说完时就给出了正确答案,并在一秒内总结了你发送的长文。这感觉就像身边坐着的不是 AI,而是思维速度与你完全同步的某个人。
最近,人工智能行业正在让这一幕成为现实。Inception Labs 推出的全新语言模型“Mercury 2.5”就是这一变革的主角。它不仅聪明,而且以“光速”响应。让我们来看看这款模型将如何改变我们的日常生活。出处:Inception Labs 博客
为何重要? (Why It Matters)
我们平时使用的 AI 聊天机器人在回答问题时,有时需要“思考时间”。你可能见过屏幕上的文字像打字机一样一个接一个地蹦出来,这是因为 AI 是按照顺序生成词汇的。
然而,Mercury 2.5 完全颠覆了这一速度逻辑。根据人工智能分析公司 Artificial Analysis 的测量,该模型每秒可生成约 770.4 个 token(AI 处理文字的最小单位)。出处:Sam Codeman 据开发商报告,在特定环境下甚至能达到每秒 1107 个。出处:Pradha 这一速度比现有 AI 模型快了整整 7 倍。出处:AIPULSEN
简单来说,Mercury 2.5 只需 1 秒就能完成现有 AI 需要 7 秒思考的工作量。一旦这种速度得以实现,我们在与 AI 进行语音对话时感受到的微小延迟将彻底消失。实时翻译机或编程助手将如真人般即时响应。出处:TechBriefe
通俗解释 (The Explainer)
传统的大型语言模型 (LLM) 主要使用“Transformer”(一种识别句子中词汇之间关系的 AI 结构)。这就像从头到尾老老实实地阅读一本书,速度自然存在明显的瓶颈。
而 Mercury 2.5 使用了一种独特的“扩散 (Diffusion)”技术。出处:OpenRouter 打个比方,如果说传统 AI 是“一个字一个字写小说的勤奋作家”,那么 Mercury 2.5 就更像“画家”——先勾勒出整体构图,再将细节一气呵成地填充进去。
这种技术在专业上被称为“并行 token 生成与精炼 (Parallel token generation and refinement)”。因为它能同时考虑并打磨多个词汇,所以产出结果的速度要快得多。出处:Benchable
当前现状 (Where We Stand)
目前的 Mercury 2.5 不仅速度快,还具备 260,000 token 的超大规模上下文窗口。出处:Blog Build Fast With AI 这意味着它能够一次性读取并记住几十本厚书的内容。此外,它还支持结构化数据输出、工具调用和复杂的逻辑推理,具备极高的实用价值。出处:Blog Build Fast With AI
不过,技术指标会因测量方式不同而产生差异,且在处理极其复杂的专业任务时,Mercury 2.5 是否比现有的巨型模型具有实际性能优势,仍需广大用户进一步验证。出处:6ic
未来展望 (What’s Next)
未来,AI 服务的竞争点将不再仅仅是“有多聪明”,而是“响应有多快”。特别是在语音助手、实时咨询、游戏内 NPC 等对即时响应要求极高的领域,Mercury 2.5 这类模型的表现值得期待。出处:CallMissed 你的智能手机中搭载反应更迅速的 AI 助手、提问即刻得到反馈的那一天,已然不远。
参考资料
- Sam Codeman, Mercury 2.5 770 token/s 基准测试
- 6ic, Mercury 2.5 LLM 达到每秒 770 token
- Pradha, Mercury 2.5:Inception 的超高速扩散型 LLM
- TechBriefe, Mercury 2.5 LLM 推理速度达到每秒 770 token
- VK.ru, Mercury 2.5 LLM 达到每秒 770 token
- Inception Labs, Mercury 2.5 介绍
- Kunal Ganglani, Mercury 2.5 770 token/s 基准测试 (2026)
- Blog Build Fast With AI, Mercury 2.5 AI 模型测评
- AIPULSEN, Mercury 2.5 LLM 达到每秒 770 token
- CallMissed, Mercury 2.5 扩散型 LLM
- Benchable, Inception: Mercury 2.5 AI 模型详细信息及基准测试
- Telegram (Hacker News Feed), Mercury 2.5 LLM 达到每秒 770 token
- OpenRouter, Mercury 2.5 API 定价及基准测试
- 价格更低廉
- 压倒性的文本生成速度
- 仅限离线运行
- Transformer 专用模型
- 基于扩散(Diffusion)的模型
- 顺序简单运算模型
- 26 万 token
- 10 万 token
- 50 万 token