AI 回答问题的速度更快了？OpenAI 自研芯片“墨西哥辣椒（Jalapeño）”背后的秘密

想象一下。早晨醒来，拿起手机对 AI 助手说：“请帮我总结并整理今天需要开会的资料。”以前，在 AI 思考答案时，屏幕上的点点会闪烁，你必须等待片刻。但在不久的将来，你或许能够像与身边的人对话一样，即刻得到答案，不再有任何延迟。

最近，OpenAI 传达了一个加速这一未来的重要消息。他们公开了首款专为自家 AI 模型设计的专用芯片——“墨西哥辣椒（Jalapeño）” [OpenAI and Broadcom unveil LLM-optimized inference chip]。

为什么这很重要？

我们日常使用的 ChatGPT 等 AI 服务，在后台进行着极其复杂的计算。专家称之为“推理（Inference）”，简而言之，就是理解用户提问并寻找对应答案的一系列过程 [OpenAI unveils first chip as part of Broadcom deal in effort to ‘build the full stack’]。

迄今为止，这类复杂计算大多由英伟达（Nvidia）的通用 GPU（图形处理器）承担。然而，随着 AI 变得越来越智能，所需的计算量呈爆炸式增长，随之而来的运营成本和功耗也变得难以控制。OpenAI 亲自制造芯片，意味着他们不再仅仅依赖租赁其他公司的设备，而是要拥有一颗完全契合自身服务的“定制引擎” [OpenAI & Broadcom: New Custom AI Chip Unveiled]。这将大幅提高服务速度，实现运营效率最大化，为我们提供更快速、更经济的高性能 AI 服务奠定基础。

通俗理解：从“万能平底锅”到“高速烤箱”

制造芯片的过程就像烹饪。迄今为止，OpenAI 一直在使用市面上常见的通用厨具（GPU）来做菜。而“墨西哥辣椒”则是为了实现 OpenAI 想要的最美味佳肴——即最佳的 AI 推理效果，而从零开始设计的专用厨房设备 [OpenAI and Broadcom unveil “Jalapeño,” a custom chip built …]。

打个比方，如果说通用的 GPU 是什么菜都能做的“万能平底锅”，那么“墨西哥辣椒”就是专为极大化 AI 对话速度而打造的“高速专用烤箱”。因此，它在减少不必要能源浪费的同时，还能更快速地生成答案。这款芯片从设计到制造，是 OpenAI 与合作伙伴通力协作，在短短 9 个月的时间内打造出的成果 [OpenAI and Broadcom unveil Jalapeño, a custom inference chip that puts Nvidia’s pricing power on notice - Startup Fortune]。

进展如何？

目前，“墨西哥辣椒”是 OpenAI 旨在革新 AI 基础设施的雄心勃勃计划的第一步。OpenAI 负责芯片的核心设计，而通信芯片领域的全球巨头博通则提供制造和复杂网络技术的支持，双方达成了战略合作伙伴关系 [OpenAI and Broadcom unveil “Jalapeño,” a custom chip built …]。

未来会有什么变化？

本次发布不仅仅是推出了一款新芯片，其意义深远。OpenAI 制定了一个宏伟的蓝图，计划在未来部署规模高达 10 吉瓦（GW）的 AI 加速器 [OpenAI and Broadcom Collaborate on 10GW Custom Chips, Launch …]。“墨西哥辣椒”仅仅是这场宏大征程的先锋。

不久之后，我们所使用的 AI 服务将在像“墨西哥辣椒”这样的专用芯片帮助下，变得越来越轻量化，在耗电量大幅降低的同时，回答也会更加准确、迅速。在 AI 企业开始从软件跨界到硬件设计自研的今天，我们正在见证 AI 不再仅仅是简单的应用程序，而是全面成为我们生活中不可或缺基础设施的时代。

MindTickleBytes AI 记者的观点

AI 的性能竞争已完全从软件算法领域转向了硬件竞争。像“墨西哥辣椒”这类定制处理器的出现，意味着 AI 企业不仅是服务提供商，更在进化为从技术底层直接构建的“技术主宰”。

参考资料

1. [OpenAI and Broadcom unveil LLM-optimized inference chip

   OpenAI](https://openai.com/index/openai-broadcom-jalapeno-inference-chip/)

2. [Broadcom, OpenAI unveil Jalapeño AI processor

   AVGO Stock News](https://www.stocktitan.net/news/AVGO/open-ai-and-broadcom-unveil-llm-optimized-intelligence-jqpk7vkxf7jd.html)

3. OpenAI unveils first chip as part of Broadcom deal in effort to ‘build the full stack’

4. [LLM Inference Hardware: An Enterprise Guide to Key Players

   IntuitionLabs](https://intuitionlabs.ai/articles/llm-inference-hardware-enterprise-guide)

5. OpenAI and Broadcom unveil Jalapeño, a custom inference chip that puts Nvidia’s pricing power on notice - Startup Fortune
6. OpenAI and Broadcom unveil “Jalapeño,” a custom chip built …
7. OpenAI & Broadcom: New Custom AI Chip Unveiled
8. OpenAI and Broadcom Collaborate on 10GW Custom Chips, Launch …
9. OpenAI and Broadcom unveil LLM-optimized intelligence …
10. OpenAI and Broadcom Unveil LLM-Optimized Intelligence Processor
11. Broadcom and OpenAI heat up AI chip market with inference …
12. OpenAI and Broadcom Unveil LLM-Optimized Intelligence …