AI 增强了记忆力?GPT-6 的“提示词缓存”更新为何令人欣喜

未来主义风格的数字缓存视觉表现,展示数据被高效地整理与存储
AI Summary

OpenAI 的 GPT-6 模型搭载了升级版提示词缓存技术,旨在帮助开发者更低成本、更高效率地使用 AI,并将维护复杂对话上下文的效率提升了 90%。

试想一下,如果每天都要把同一份冗长的业务手册反复读给 AI 听并向其提问,那该是多么低效啊?这就好比每次都要向新人从头到尾地解释一遍情况一样麻烦。但现在,AI 已经能够更智能地管理“记忆力”了。2026 年 9 月 22 日,OpenAI 发布了全新的 GPT-6 Sol 和 Luna 模型,并宣布对“提示词缓存(Prompt Caching,指将常用信息记忆在临时存储中的技术)”进行了重大升级,以最大程度提升 AI 服务的效率。 出处 3, 出处 4

为什么这很重要?

对于普通用户来说,“提示词缓存”这个术语可能听起来很陌生。但这项技术直接影响着我们所使用的 AI 服务的“价格”和“速度”。

简单来说,在使用企业级聊天机器人或长文档摘要服务时,AI 过去在每次收到提问时,都必须把全部内容从头到尾重新分析一遍。这就像每次考试时,都要把教材从头到尾读一遍才能解题一样。但通过此次更新,AI 能够将已经读过的内容记忆在“缓存(临时存储空间)”中,并在下次提问时直接调用。结果就是,用户需要承担的成本大幅降低,回答速度也变得更快。这对利用 AI 的企业和开发者来说,将是实现成本效益最大化的重要转折点。 出处 3, 出处 5

轻松理解:AI 的“便利贴”记忆法

让我们用比喻来进一步解释提示词缓存。

想象你在一个巨大的图书馆里进行研究。如果每次提问都要翻遍图书馆里的所有书,那将花费大量时间。而“缓存”就像是你把最常用的核心句子写在便利贴上,贴在书桌上一样。下次有同样的问题时,无需再去翻书,看一眼桌上的便利贴就能迅速回答。

此次 GPT-6 的更新不仅限于贴便利贴的功能,它还通过构建能自我判断什么是重点的系统(高基础命中率)、直接控制便利贴数量的系统(显式缓存断点),以及一眼就能确认是否贴好的系统(缓存仪表板),实现了全方位的升级。 出处 4

当前现状:发生了什么变化?

2026 年 9 月 22 日发布的 GPT-6 Sol 和 Luna 不仅变得更加聪明,辅助高效管理的工具也同步进化了。 出处 3

  1. 成本革新:设计比之前的缓存系统高效得多,缓存输入 Token 的成本最高可降低 90%。 出处 3, 出处 4
  2. 管理的透明度:提供了全新的仪表板和诊断工具,使开发者能够直接确认并管理缓存状态。 出处 4
  3. 计费政策的变化:不过,处理极长对话上下文时需要注意。对于超过 272,000 Token(AI 处理文本的单位)的请求,将执行标准输入及缓存输入费用加倍、输出费用 1.5 倍的计费政策。 出处 1, 出处 2

未来会怎样?

未来,AI 服务的竞争点将不仅在于“有多聪明”,更在于“如何高效地回收利用记忆”。90% 的成本削减幅度将降低企业更广泛引入 AI 的门槛。预计我们未来使用的应用程序将向着既能无缝记忆更长对话上下文,又能保持流畅响应速度的方向发展。

AI 的观点:MindTickleBytes 的视角

此次 GPT-6 更新是为“Agent(智能体)时代”奠定基础设施的关键工作,在这个时代,AI 需要在更长时间内记忆并处理人类复杂的业务。虽然华丽的智能提升固然重要,但用户能够切身体验到服务在经济性和舒适度上的实质性改善,这一点令人深受鼓舞。AI 现在不仅是回答问题的机器,正进化成为能够理解我们业务背景并能为我们节省成本的可靠伙伴。

参考资料

  1. GPT-6Sol vs Gemini 3.1 Pro: a 9% gap, 18 index points
  2. GPT-6Sol andGPT-6Luna: Specs, Benchmarks, Pricing… - Kingy AI
  3. OpenAI improves prompt caching in GPT-6 Sol and Luna for …
  4. OpenAI Rolls Out Better Prompt Caching for GPT-6
  5. [Prompt caching OpenAI API](https://developers.openai.com/api/docs/guides/prompt-caching)
AD
测试你的理解
Q1. 此次 GPT-6 更新中改进的“提示词缓存”技术主要对哪个方面做出了贡献?
  • 提升图像生成速度
  • 缓存输入 Token 成本降低高达 90%
  • 提高韩语翻译准确度
提示词缓存是一项通过重复使用之前处理过的输入来大幅降低成本并改善响应速度的技术。
Q2. 在 GPT-6 模型中,处理超过 272,000 Token 的长输入时适用什么计费政策?
  • 较原有价格优惠 50%
  • 标准输入和缓存价格的 2 倍
  • 各 Token 价格保持不变
对于超过 272,000 Token 的大规模输入,适用标准和缓存价格的 2 倍费率,输出价格的 1.5 倍费率。
Q3. 本次更新中新增的工具之一是什么?
  • AI 情感分析器
  • 缓存仪表板及诊断工具
  • 自动新闻摘要器
新系统包含了用于确认和管理缓存效率的仪表板及诊断工具等。