与其在所有任务上都使用LLM,不如在简单任务中使用传统的决策模型或基于规则的系统,这在成本、速度和安全性方面要有利得多。
想象一下。你正打算去家门口的便利店买一盒牛奶,却发动了一辆顶级跑车,穿过狭窄的小巷。发动机发出巨大的轰鸣声,油费令人吃力,在狭窄的地方停车也很麻烦。相比之下,步行去家门口的超市或骑自行车要快得多,也高效得多。
如今,人工智能(AI)行业的许多企业和开发者正在犯类似的错误。他们盲目地将大语言模型(LLM,基于大规模数据训练的AI语言架构)作为所有问题的解决方案强行应用 参考来源:企业实际开发现状。然而,世上的所有事情真的都需要复杂的AI大脑吗?最近在科技界,“并非所有事情都需要LLM(Not Everything Needs an LLM)”的声音正在强烈爆发 参考来源:Not Everything Needs an LLM。
为什么这很重要?
在过去几年里,全球的董事会和企业都在疯狂地砸钱投入AI预算。盲目连接LLM而不是进行经典的软件开发,已经成为最大的潮流 参考来源:LinkedIn Post by Clevyr。许多企业甚至在处理简单的列表排序、数据统计以及在系统间移动文件等基础任务时,也要强行附加LLM来处理,从而浪费了大量的工程时间和天文数字般的成本 参考来源:LinkedIn Post by Clevyr。
然而,这种盲目引入AI的做法正在变成成本炸弹和性能下降的回旋镖反噬自身。在客户中,有不少人根本拒绝将自己的敏感数据发送到LLM服务器进行处理 参考来源:Not everything needs an LLM - YouTube。Beamery的Rami指出,在数据安全、处理速度和成本方面,传统AI或简单系统可能会更加具有优势 参考来源:Not everything needs an LLM - YouTube。
我们日常生活中遇到的许多数据处理任务,其实并不需要高性能AI,通过长期存在的经验证工具就能更快速、更安全地解决。在引入技术时,比起询问“这是不是最新技术?”,权衡“这项技术真的对我的问题必不可少吗?”正成为决定企业生死和个人效率的重要标准。
通俗易懂:天才教授与默默无闻的实干家
简单来说,大语言模型(LLM)就像是一位博学多才、读过几万本书甚至能进行哲学对话的天才教授。而传统的决策模型或基于规则的系统,则可以说是按照既定手册准确、快速行动的严谨实干家。
我们可以这样比喻。想象一下,你必须像打地鼠一样,用“是/否”快速分类堆在桌子上的文件袋,或者按顺序对一个简单的列表进行排序。如果把天才教授请来做这件事,他每次都会深思熟虑,花费很长时间,并且索取高昂的咨询费(API费用)。而且有时候还会加上一些离谱的解读。
相比之下,基于规则的系统或传统决策模型根据明确的条件在0.1秒内就能给出结果。实际上,像PostHog这样的企业正在利用像 Jev 这样的传统决策模型来预先控制高成本的LLM调用、执行模型间路由、对搜索结果进行重排以及选择合适的图表 参考来源:Not everything needs an LLM - posthog.com。这些模型不提供自由散文形式的回答,而是以更低廉、更快速的方式提供经过概率值修正的准确类型化回答 参考来源:Not Everything Needs an LLM - daily.dev。
此外,使用神经网络(Neural Networks)的监督学习模型或使用固定标签集对输入进行分类的规则基于系统,可以在无需担心LLM的复杂性和幻觉(Hallucination,生成错误答案)的情况下稳定运行 参考来源:Not everything needs an LLM: A framework for evaluating when AI makes sense。
当前现状:在AI排名竞争中发现的“真正”效率
| 目前在人工智能世界中,源源不断地涌现出令人瞩目的新模型。例如,根据人工智能分析(Artificial Analysis)的LLM排行榜,Claude Fable 5.2 (Claude Fable 5.2 Max, Default Fallback) 模型以65分的智力指数(Intelligence Index)得分,在114个模型中稳居第一 [参考来源:LLMLeaderboard - Comparison of AI models from… | Artificial Analysis](https://artificialanalysis.ai/leaderboards/models)。 |
这样,AI的性能日新月异地进化着。然而正是由于这一点,一线的开发者和架构师陷入了悖论式的烦恼:“既然有这么强大的模型,难道连这种琐碎的任务也必须用它吗?”
实际上,Tetrate团队在开发同步合规性(Compliance)数据的代理时,进行了一项有趣的实验 参考来源:Not Everything Needs an LLM: When Simpler Models Win。最初他们是以LLM为基础构建代理的,但后来完全移除了LLM,并通过更简单的逻辑进行了版本升级。结果,新版本的运行速度更快,成本大大降低,而且产出的结果完全一致 参考来源:Not Everything Needs an LLM: When Simpler Models Win。
| 亚马逊云科技(AWS)的 Dave Hall 也在演讲中强调,必须明确区分ChatGPT风格的AI在何时真正有用,以及何时更简单的系统会是更好的选择 [参考来源:Not Everything Needs An LLM | Google Developer Groups](https://gdg.community.dev/events/details/google-gdg-on-campus-the-australian-national-university-canberra-australia-presents-not-everything-needs-an-llm/)。即使不是开发者,聪明的团队在选择技术时首先考虑的也不应该是盲目引入最新技术,而是选择最适合解决问题的工具 [参考来源:Not Everything Needs An LLM | Google Developer Groups](https://gdg.community.dev/events/details/google-gdg-on-campus-the-australian-national-university-canberra-australia-presents-not-everything-needs-an-llm/)。 |
未来会怎样?
未来的技术生态系统将摆脱无条件的AI万能主义,进入“人尽其才,物尽其用(Right Tool for the Job)”的时代。虽然高性能LLM对于复杂的推理、创造性写作或自然语言对话是不可或缺的,但在大规模数据的简单过滤、规则验证、系统间集成以及安全至上的内部合规任务中,传统的决策模型和基于规则的系统仍将稳居主流地位。
展望未来,有望成为具有成本效益的替代方案是那些能够返回可靠概率值和准确类型的决策模型(例如 Jev),而不是那些有可能给出未知错误答案的LLM 参考来源:Not Everything Needs an LLM - daily.dev。
在现代软件工程中,知道“何时使用AI”与知道“何时移除AI(When to Remove the AI)”同样重要,这正成为一项被严重低估的核心能力 参考来源:Not Everything Needs An LLM: When to Remove the AI from Your AI…。在未来面对技术时,比起被华丽的营销文案迷惑,我们需要的是思考什么才是最适合自己问题、最简单且最诚实的工具的智慧。
AI的视角
MindTickleBytes AI记者的视角:技术的进步总是为我们带来更复杂、更强大的工具,但真正的工程美学在于“用最简单的方法解决问题”。越是在AI时代,回归基础的智慧才是最强大的武器。
参考资料
- Not Everything Needs an LLM
- Not everything needs an LLM - posthog.com
- Not Everything Needs an LLM: When Simpler Models Win
- Not everything needs an LLM - YouTube
- Not Everything Needs an LLM - daily.dev
- When to Use an LLM (And When Not To) - LLM Guides
- LinkedIn Post by Clevyr
- NVIDIA Technical Blog
- Asking LLM for confidence
- Databricks Blog
- Surromind AI
- Cryptofused
- Artificial Analysis LLM Leaderboard
- Tetrate Blog
- Google Developer Groups
- LLM Rumors
- AI Leaderboard 2026
- 成本更高、速度更慢
- 提供更快的速度、更低的成本和更高的安全性
- 只提供自由散文形式的回答
- 传统的决策模型(例如 Jev)
- 量子计算机算法
- 人工专家手动审查
- 结果变得不准确,错误激增
- 运行较慢,但产出了更有创意的结果
- 运行更快、成本更低,并且产出了相同的结果