通过为 GLM-5.3-Flash 模型选项编号并读取概率的技术,无需额外学习,即可实现快速、精准的决策模型。
想象一下:你问 AI 助手:“午餐吃泡菜汤、拌饭还是炸猪排更好?”以前的 AI 可能会从泡菜汤的配料讲到拌饭的营养成分,滔滔不绝地解释一番。但现在,时代变了,AI 像做测验题一样,能瞬间计算出正确答案及其被选中的概率。
最近,研究人员利用最新的 AI 模型“GLM-5.3-Flash”,在无需复杂的额外训练过程下,成功实现了“Jev”风格的决策模型 参考资料 1。
为什么这很重要?
在日常生活中,我们的许多选择有时需要 AI 的协助。但对于企业而言,每次都要求 AI 生成长篇大论的文本,在成本和时间上并不高效。这项新技术使 AI 能像人选择选项那样快速、明确地做出决定,甚至能计算出作为选择依据的概率。
特别是 GLM-5.3-Flash,它是 GLM-5 系列中首个能直接处理视觉信息的原生多模态(Native Multimodal,指同时理解和处理文本、图像、音频等多种数据的方式)模型 参考资料 9, 参考资料 14。换言之,它不仅能回答文本问题,还能观察现场情况的照片,并迅速回答“在这种情况下最好的选择是什么?” 参考资料 2。
深入浅出:图书管理员的比喻
我们用一个比喻来解释这项技术的原理。假设 Transformer(掌握句子中单词关系的 AI 核心架构)模型是一位“在巨大图书馆中寻找答案的管理员”。
传统方式就像是要求管理员去取书、总结内容并加上个人意见。这既耗时,对话也冗长。而新方式则更加直观:
- 编号:为问题指定明确的选项 A、B、C。
- 预填充:让管理员(AI)提前写好答题纸的第一个字。
- 读取概率:偷偷查看管理员(AI)接下来要写的词的概率分布(Log Probabilities,将模型选择特定词的可能性数值化的值)。
这样一来,AI 无需写出冗长的句子,就能立刻得出“选择 A 的概率为 90%”的结论 参考资料 2。该方法最大的优点是完全不需要从零开始重新训练模型或进行额外微调(Fine-tuning) 参考资料 3, 参考资料 5。
当前现状
该技术已在实战中取得成果。在 28 个文本数据集上,基于 GLM-5.3-Flash 的决策模型展现出了与现有专业决策 AI“Jev”几乎相当的准确度 参考资料 2, 参考资料 7。
速度同样惊人。平均每次决策仅需约 156ms(0.15 秒),成本也极其低廉,1000 次决策仅需 0.06 欧元 参考资料 4, 参考资料 7。当然,当选项过多时,准确度会有所下降,但在一般情况下,它发挥了足够强大的性能 参考资料 10。
未来展望
未来,AI 将成为更聪明、更高效的“决策伙伴”。它不仅能给出答案,还会告知其自信程度(Confidence Values,即 AI 表示对其答案信任程度的指标),让用户能更放心地做出选择 参考资料 10。
我们很快可能会体验到在购物 App 中,AI 直接告诉我们:“这件衣服与你平时风格匹配的概率为 95%”。将 AI 的“智能”转化为实时服务的“效率”,这样的尝试将在未来出现在更多领域。
MindTickleBytes 的 AI 记者视角:技术的发展方向并非只有打造更大、更重的模型。在这个时代,如何“明智地”运用既有的智能模型,才是真正的实力。
参考资料
- Turn GLM-5.3-Flash into a Jev-like System One model
-
[GLM-5.3-Flash Matches Jev’s Decision · Hacker News Zeli](https://zeli.app/story/49857656) - Turning GLM-5.3-Flash into a Jev-like decision model
- Turn GLM-5.3-Flash into a Jev-like System One model - LinkedIn
- GitHub - nokia-applied-research/AnyJev: Turn any LLM into a Jev-style …
- GitHub - zhengxuyu/litjev: Turn any off-the-shelf LLM into a Jev -like …
-
[Turn GLM-5.3-Flash into a Jev-like System One model Lorenz Tabertshofer](https://de.linkedin.com/posts/lorenz-tabertshofer_turn-glm-53-flash-into-a-jev-like-system-activity-7508887669553262592-U_Dg) - GLM5.3Flash— ВАЙБКОДИНГ ЗА КОПЕЙКИ! - YouTube
- zai-org/GLM-5.3-Flash· Hugging Face
- GLM-5.3-FlashMatchesJev’sDecisionAccuracy in a Single Forward…
- Можно ли запуститьGLM-5.3локально: честный расчёт по железу
- Z.ai - Advanced AI Chatbot & Agent powered byGLM-5.3-Flash
- GLM5— Next-Gen FrontierModel
- GLM-5.3-Flash: Technical Deep Dive into Z.ai 320B-A18B Hybrid …
-
[Jev Is Turning Into an Entire Ecosystem Swati Gupta …](https://x.com/hrswatigupta/article/2102741642050666755) - GLM-5.3 - openlm.ai
- 重新训练整个模型
- 为选项编号并读取概率
- 仅使用图像数据
- 无需进行额外学习(fine-tuning)
- 计算成本降为零
- 必须连接互联网
- 只能理解文本
- 是首个原生多模态 GLM-5 模型
- 运行太慢,无法实际使用