简单的文档切片检索式 RAG 技术容易丢失上下文，但 AI 正在向更深层次的推理与理解能力进化。
想象一下，你在公司向 AI 展示了一份非常重要的合同，并问：“这份合同的核心条款是什么？”AI 自信地给出了回答，但其依据却完全忽略了合同中的“附录”部分，从而得出了荒谬的结论。这就像我们备考时只读了教科书正文，却没看重要的表格或参考资料，导致答非所问一样。
近期，作为生成式 AI 关键技术之一的“RAG（检索增强生成，Retrieval-Augmented Generation）”被指出可能会犯这类错误。人们常说“AI 会撒谎”或者“出现幻觉（Hallucination）”，这背后的原因到底是什么呢？
为什么这很重要？
我们现在不仅满足于让 AI “写文章”，更进入了让它“阅读工作资料并回答问题”的阶段。在这个过程中，帮助 AI 参考文档的技术就是 RAG。然而，如果 AI 不能正确理解文档，只是走马观花地寻找信息，可能会在商业决策或重要判断中引发严重失误。
与其盲目信任 AI 的结果，不如了解 AI 是如何“搜寻”信息的，这已成为个人与企业在这个时代的竞争力所在。
浅显易懂：AI 的“开卷考试”
“RAG”简单来说，就是让 AI 进行一次“开卷考试”。AI 不仅仅依赖其自身已学习的知识，而是像参考书一样把我们给出的文档放在旁边，从中寻找答案。
| 然而，我们过去使用的“传统 RAG”方式略显单一。专家们解释称，这就像把文档当作“装满杂乱文本碎片的手提袋”来处理。 [Why YourRAGMayBeLyingtoYouand How to Fix It | LinkedIn](https://www.linkedin.com/posts/udaykiranchimpiri_ai-machinelearning-rag-activity-7450764888043331585-rqFy) |
| 举个例子。假设你指示 AI：“关于这件事的详细内容，请参阅后面的附录 B”。然而，由于传统的 RAG 只是通过数学方法找出单词频率或相似度“看起来最接近”的文本片段，它往往会直接忽略那句重要的导语——“请参阅附录 B”。这就像找路时无视路标，只跟着前面人的脚印走，最终却误入歧途一样。 [Why YourRAGMayBeLyingtoYouand How to Fix It | LinkedIn](https://www.linkedin.com/posts/udaykiranchimpiri_ai-machinelearning-rag-activity-7450764888043331585-rqFy) |
现状：不断进化的技术
| 有人说“RAG 已经过时了”。但实际上，在现场构建 AI 系统的工程师们的想法并不相同。他们反而更加专注于 RAG 技术，并不断增加投入。 [WhyRAGMightActually Matter More Than Ever In2025 | HackerNoon](https://hackernoon.com/why-rag-might-actually-matter-more-than-ever-in-2025) |
| 技术并没有死，只是早期形态的简单“向量搜索（寻找相似文本的方式）”触及了瓶颈。现在，技术已经跨越了单纯“寻找”文档的阶段，正向着 AI “理解并推理”文档内容的阶段迈进。 [감사원도 활용 가능한 AI 문서분석기술 | 의미기반… - YouTube](https://www.youtube.com/watch?v=IH3_026P8GE) |
未来展望
AI 技术将会变得更加聪明。未来的 RAG 系统不仅会抛出包含相关关键词的段落，还能准确把握用户的提问意图，并在整个文档的上下文中推导出逻辑结论。
我们现在需要成为“明智的用户”，不再盲目信任 AI 带来的信息，而是懂得追问这些信息基于何种依据。技术已经在进化，最先感知到这些变化的人，将能更灵活地驾驭 AI 时代。
MindTickleBytes AI 记者观点
不必因为 RAG 有时会“胡言乱语”而感到失望。这是 AI 为了获得真正的“智能”所经历的一种成长的阵痛。在 AI 从简单的文档搜索机器进化为真正的“秘书”之际，我们也应该锻炼批判性思维的肌肉，去验证 AI 的回答。
参考资料
-
[Why YourRAGMayBeLyingtoYouand How to Fix It LinkedIn](https://www.linkedin.com/posts/udaykiranchimpiri_ai-machinelearning-rag-activity-7450764888043331585-rqFy) -
[감사원도 활용 가능한 AI 문서분석기술 의미기반… - YouTube](https://www.youtube.com/watch?v=IH3_026P8GE) -
[WhyRAGMightActually Matter More Than Ever In2025 HackerNoon](https://hackernoon.com/why-rag-might-actually-matter-more-than-ever-in-2025)
- 文档数量太多
- 仅简单检索相似文本片段，容易丢失上下文
- AI 响应速度太慢
- 认为技术已死并放弃
- 不再进行优化
- 跨越简单搜索，向更深层次的理解与推理高度优化技术
- AI 仅能快速阅读文档
- AI 能够阅读、理解并推理文档内容
- AI 自主编写文档