Spotify 利用开源技术“Portal”和 AiKA 模式,将 AI 编程代理的重复性简单工作委派给低成本模型,从而节省了 90% 的 Token 使用量。
试想一下,你聘请了一位非常聪明的博士作为私人助理。但是,如果你每天早晨只让他做“按复印机按钮”或“分类整理文件并归档”这些简单的杂活,会怎样呢?而且你还按博士的标准支付薪水。
最近在开发人员中引起热议的“AI 编程代理”的情况正是如此。我们让拥有超凡智慧的 AI 来进行编程,但它在处理简单的文件读写这一“杂活”上花费的成本,竟然比解决需要高度逻辑思考的问题还要多。这里的成本指的是 AI 每理解和处理一次语句时所支付的“Token(AI 的运算单位)”费用。为了打破这种低效局面,Spotify 的工程师们给出了新的解决方案。
为什么这很重要?
随着 AI 技术的飞速发展,许多开发者通过 Claude Code 等 AI 编程代理大大提高了工作效率。然而,这里有一个致命的障碍,那就是“成本”。当 AI 处理极其复杂的逻辑问题时所使用的顶尖模型——即所谓的“前沿模型”,其性能虽强,但使用费用极其昂贵。
问题在于,无论是在复杂的代码库中四处寻找信息,还是编写几十次重复格式的测试代码,这个聪明的 AI 都会收取同样高昂的费用。Spotify 的这一案例超越了单纯“使用”AI 的阶段,它展示了“应该将什么工作分配给什么等级的 AI,才能最经济、最高效”,这标志着一个重要的转折点。它为在保持开发者生产力的同时,大幅降低运营成本提供了一条现实可行的路径 [参考资料 1]。
易于理解:一个“聪明的交通枢纽”
Spotify 公开了名为“Portal”的技术 [参考资料 6]。打个简单的比方,Portal 就像是置于 AI 代理和代码(代码库)之间的一个“聪明的交通枢纽”。过去,AI 会盲目地搜寻代码的各个角落,并读取所有内容,从而浪费了大量 Token [参考资料 9]。
Spotify 在这里启用了名为“AiKA 模式”的两个特殊员工来进行分工 [参考资料 11]。
- bulk-reader(批量读取负责人):当需要分析多个文件时,不使用昂贵的 AI,而是将任务交给性能适中但成本极低的“Gemini 2.5 Flash”模型 [参考资料 2]。
- code-writer(代码编写负责人):在遵循现有代码模式编写重复性代码时,同样交给低成本模型来处理 [参考资料 2]。
通过安装名为“shunt(分流)”的插件,昂贵的高性能 AI 模型可以专注于真正需要智慧的“创造性问题解决”,而剩余的简单重复性劳动则由廉价的 AiKA 模型分担处理 [参考资料 4, 参考资料 11]。
当前现状
许多开发者在使用 AI 代理的过程中,已经感受到了每月产生的巨额 Token 费用带来的负担 [参考资料 12]。Spotify 的这次尝试并不止步于理论,而是切实取得了惊人的成果,将编程代理的 Token 使用量降低了 90% [参考资料 3, 参考资料 14]。
目前该技术已开源,任何人都可以使用。它主要用于优化 Claude Code 环境中 I/O(输入/输出)频繁的任务 [参考资料 6, 参考资料 11]。
未来会怎样?
未来,真正的竞争力将不仅在于“哪个 AI 更聪明”,而在于“如何配置和管理 AI”。像 Spotify 的 Portal 这样,将复杂的系统内部以知识图谱(数据间关系的视觉化形式)进行管理,并根据任务性质自动分配模型的系统,预计将会越来越多地涌现。
开发者们现在需要思考的,不仅是如何“指挥 AI”,而是“如何设计出一种结构,既能爱护昂贵的 AI,又能智慧地利用廉价的 AI”。为了更明智地使用聪明的 AI,现在正是需要高效“分工”的时候。
MindTickleBytes AI 记者视角
AI 应用的成败,现在已不在于模型本身的性能,而在于管理系统整体效率的“运作艺术”。Spotify 的案例是教科书级的典范,它证明了通过高效配置顶尖的 AI,既能降低成本,又能将生产力最大化。
参考资料
- Portal by Spotify cut my Claude Code token usage by 90%
- Portal by Spotify cut my Claude Code token usage by 90%
-
[Spotify’s Portal cut my Claude Code · Hacker News Zeli](https://zeli.app/story/49571465) - Portal by Spotify cut my Claude Code token usage by 90% …
-
[Spotify’s Backstage Portal cut my Claude Code… VibeLeaderboard](https://www.vibeleaderboard.ai/intel/7ff05f2d-e1d9-4b86-aa58-8d94a5fccd5f) - Spotify cut Claude Code token usage by 90% with Portal
- How to Reduce 90% of Claude Code Token Usage - by John Kim
- GitHub - spotify/portal-ai-plugins · GitHub
- How To Save 90% of Claude Code Token Usage - YouTube
-
[PortalbySpotifycutmyClaudeCodetokenusage… HackerNews](https://news.ycombinator.com/item?id=49571465)
- Claude Code
- Portal
- AiKA
- 分析整个代码库
- 基于模式生成代码
- 更新用户文档
- 50%
- 70%
- 90%