AI 自己设计芯片？AI 硬件的新时代

By Gi Pyeong Lee
AI 硬件 OpenAI 半导体 人工智能
呈现出各种形状的 AI 半导体芯片经过精密排列并闪闪发光的科技感图形
AI Summary

为了减少对英伟达的依赖并提高运营效率，AI 企业正竞相开发推断专用芯片。

你知道我们每天使用的 AI 服务，实际上是一个庞大的“计算器”运行过程吗？试想一下，每当你向 AI 提问“今天中午吃什么？”时，屏幕后方那些看不见的地方，无数半导体芯片正在不停地处理信息。最近，在人工智能行业，越来越多企业宣布要亲手制造核心部件——“AI 芯片”。从租用他人制造的芯片，到如今全球顶尖 AI 企业纷纷开始亲自设计芯片，这究竟是为什么？

为什么这很重要？

到目前为止，AI 的发展一直依赖于“英伟达（Nvidia）”这堵巨大的高墙。因为几乎所有的高性能 AI 都是在英伟达的图形处理器（GPU，一种能快速进行并行计算的设备）上运行的。然而，随着 AI 模型变得越来越聪明，维护服务的成本也随之爆炸式增长。

AI 开发过程大致分为两个阶段：首先是投入巨额成本训练 AI 的“学习（Training）”过程；随后是与用户对话、回答问题的“推断（Inference）”过程。推断是每天发生数十亿次的日常运营成本。如何降低这一运营成本，已成为决定企业生存的关键杠杆。参考资料 5 换句话说，拥有自研芯片意味着企业无需依赖昂贵的外部零件，就能提高利润，从而获得强大的竞争力。参考资料 3

简单易懂的解释

为了更容易理解 AI 硬件，我们打个比方：

  • 学习（Training）： 让 AI 把整本百科全书背下来的训练过程。需要超高速的计算器。
  • 推断（Inference）： 基于背下的内容，回答用户提问的过程。参考资料 4

简单来说，学习是“在图书馆阅读数千本书的阅读方法”，而推断是“图书馆管理员为提问者找到准确答案的过程”。如果现有的通用 GPU 最适合快速扫视整个图书馆，那么 AI 企业亲自打造的芯片就是专门为了执行“作为管理员快速找到问题的答案”这一角色而设计的。参考资料 13 只要管理员的动线得到优化，就能在消耗更少能量的同时，更快地给出答案，这就是其原理。

现状如何？

全球科技巨头们已经开始行动了：

  • OpenAI： 与博通合作开发了自研推断芯片“Jalapeño”。该芯片在同等功耗下，比现有的英伟达系统处理更多数据，且用户感知的响应速度（延迟）也更低。参考资料 7, 参考资料 18
  • Anthropic： 成立了自研芯片团队，正在设计专属的特定用途集成电路（ASIC）。参考资料 12
  • DeepSeek： 为了减少对英伟达和华为的依赖，正在制造推断专用芯片。参考资料 1, 参考资料 20
  • 特斯拉： 多年前就开始设计用于在汽车内部运行神经网络的自研芯片。参考资料 6
  • Z.ai： 令人惊讶的是，他们让自家的模型（GLM-5.3）直接参与了硬件结构的优化过程。AI 等于是自己设计了能最快得出答案的“家”。参考资料 10, 参考资料 14

未来展望

未来，硬件和软件各行其道的时代正在远去。参考资料 8 能够完美理解 AI 模型特性的软件，与根据该特性进行物理布局的硬件相结合，“一体化优化”将成为主流。参考资料 9

对我们消费者而言，未来将迎来一个可以用更低价格、更快速度、更长时间使用更聪明 AI 的环境。但与此同时，值得关注的是，可能只有极少数具备硬件设计能力的巨头企业才能主导 AI 生态系统。

MindTickleBytes AI 记者视点

AI 自己设计硬件的样子，让人联想到生命在进化过程中将环境改造得更适宜生存的过程。竞争的核心现在已超越了“学习了多少数据”，转向了“能在多高效的基础设施上进行对话”。硬件与软件如同一体般运行的全新 AI 时代，正出现在我们眼前。

参考资料

  1. Inference Is the New Oil: Who Controls the Pipe - DEV Community (https://dev.to/antseedai/inference-is-the-new-oil-who-controls-the-pipe-122l)
  2. The Future of AI Inference Hardware: Beyond the GPU… Thinkia (https://thinkia.com/thoughts/future-ai-inference-hardware-google-tpu/)
  3. OpenAI Unveils Jalapeño: Its First Custom Inference Chip, Built With… (https://faq.com.tw/en/hardware/2026-07-10-openai-jalapeno-broadcom-inference-chip-en/)
  4. The Silicon Stack War: What OpenAI’s Jalapeño Chip Reveals About… (https://insighttrack.ai/openai-jalapeno-chip-nvidia-inference-vertical-integration/)
  5. The Real AI Race Isn’t About Models Anymore — It’s About Chips (https://www.linkedin.com/pulse/real-ai-race-isnt-models-anymore-its-chips-madhankumar-r-a-rj9if)
  6. Elon Musk Agrees Tesla’s Early Custom AI Chit… — TradingView News (https://www.tradingview.com/news/benzinga:d7ba980ab094b:0-elon-musk-agrees-tesla-s-early-custom-ai-chit-bet-may-be-more-important-than-ever-backs-tsla-engineer-s-warning-current-compute-shortage-is-only-the-tip-of-the-iceberg/)
  7. OpenAI publishes Jalapeño’s first benchmarks at Hot Chips · Promptea (https://www.promptea.me/en/blog/openai-jalapeno-first-benchmarks-hot-chips-2026)
  8. Inside the Inference Hardware Revolution Of 2026 - IEEE Spectrum (https://spectrum.ieee.org/inference-hardware-revolution)
  9. Large Language Model Inference Acceleration: A Comprehensive Hardware … (https://arxiv.org/html/2410.04466v2)
  10. AI Optimizing Itself? The Story of a System Built by My Own Hands (https://gipyeong-lee.github.io/2026/09/17/GLM-Built-Its-Own-Inference-Infrastructure.en/)
  11. Computer Science > Hardware Architecture - arXiv.org (https://arxiv.org/abs/2601.05047)
  12. Anthropic co-designing custom AI inference chips to bypass costly … (https://www.tomshardware.com/tech-industry/anthropic-to-build-its-own-co-designed-custom-ai-accelerator-for-inferencing-workloads-samsung-reported-to-be-partnering-with-the-claude-ai-maker-for-manufacturing)
  13. AI Inference Hardware in 2026: Beyond the GPU Woyce (https://woyce.ai/blog/state-of-ai-inference-hardware)
  14. Toward Recursive Self-Improvement: How GLM Built Its Own Inference … (https://z.ai/blog/glm-built-its-inference-infrastructure)
  15. Top 5 Most Significant and Current AI Hardware Developments … (https://applyingai.com/2025/10/top-5-most-significant-and-current-ai-hardware-developments-openais-chip-pivot-and-beyond/)
  16. OpenAI Jalapeño AI chip challenges Nvidia in inference - CNBC (https://www.cnbc.com/2026/08/26/openai-jalapeno-ai-chip-nvidia.html)
  17. DeepSeek AI Chip Could Shake Up NVIDIA and Huawei at Once (https://memeburn.com/deepseek-ai-chip-could-shake-up-nvidia-and-huawei-at-once/)
AD
测试你的理解
Q1. AI 企业开发自研芯片，替代英伟达等现有芯片厂商的主要原因是什么？
  • 为了提高模型训练速度
  • 为了实现推断效率最大化并降低成本
  • 因为设计更好看
自研芯片开发是降低‘推断’过程运营成本的重要手段，而推断过程需要应对数亿次的提问。
Q2. OpenAI 最近发布的推断专用芯片名称是什么？
  • Jalapeño (墨西哥辣椒)
  • Basil (罗勒)
  • Paprika (红椒)
OpenAI 与博通（Broadcom）合作，开发了名为“Jalapeño”的自研推断加速器。
Q3. 参与了硬件与软件协同优化过程的 AI 模型名称是什么？
  • GPT-5
  • GLM-5.3
  • DeepSeek-V3
Z.ai 的 GLM-5.3 模型直接参与了 AI 硬件与软件系统的自我优化过程。