得益于 mistral.rs 的最新更新,现在个人电脑可以利用开源 AI 模型,无需外部协助即可自由执行被称为“代理技能”的高级任务处理能力。
想象一下,早晨起床,你对个人 AI 助理说:“整理一下今天的会议资料并发邮件给我。”在此之前,助理要完成这些任务,必须依赖拥有庞大服务器的科技巨头的云端 AI 模型。但现在,通往让助理驻留在你的笔记本电脑里,工作更自由、更智能的道路已经开启。因为随着名为“mistral.rs”的人工智能运行工具的更新,我们现在可以直接教电脑里的 AI “专业技能(Skill)”了。
为什么这很重要?(Why It Matters)
一直以来,要让人工智能完成精细的工作,大多必须依赖 OpenAI 或 Anthropic 等巨头提供的“闭源模型(Closed Model,未经企业许可无法深入其内部的 AI)”。这意味着工作内容必须传输到外部服务器,对于注重安全或个人隐私的用户来说,这是一个巨大的困扰。
但通过此次更新,现在即使在我们设备上直接安装的“开源模型(Open Model,任何人都可以修改和运行的 AI)”中,也能运行被称为“代理技能(Agent Skills)”的高级任务处理技术 [Source 1, Source 10]。这意味着在无需将数据发送到外部服务器的情况下,能够严密保护安全,构建属于你自己的强大 AI 代理环境 [Source 9]。
易懂解析 (The Explainer)
“代理技能”的概念可能听起来有点难。让我们打个比方。假设我们招聘了一位非常聪明的应届毕业生。这位员工的基础素质很高,但完全不懂我们公司的复杂文档处理方式或特定软件的使用方法。此时,我们交给他一份“业务手册”,这就是安装“技能(Skill)”的过程。
简单来说,代理技能是告知 AI 应如何执行特定任务的“程序性知识” [Source 4]。此次更新的 mistral.rs 就像拼图碎片一样,只要把装载这些技能的文件交给 AI,AI 读取后就能立即执行相应业务 [Source 3]。因为它遵循了现有的 OpenAI 标准技术,因此已经存在于世上的 170 多万个代理技能现在也能在本地环境中更容易地被利用 [Source 6]。
当前状况 (Where We Stand)
维护 mistral.rs 的开发者表示,通过此次 v0.8.10 更新,可以将原本被禁锢在特定企业模型中的这些技能完全带入个人的本地设备 [Source 8, Source 13]。用户只需将技能以压缩文件形式上传或创建目录结构传递给它即可 [Source 3]。这意味着已经达到了可以通过像 Gemma 这样的本地开源模型,无需经过科技巨头的服务器,就能启动专属于自己的专业 AI 助理的水平 [Source 9]。
不过,需要记住的是,处理速度或准确度可能会根据本地模型的性能和个人电脑的硬件规格而有所不同。因为与云端服务器巨大的运算能力相比,个人设备上依然存在硬件限制。
未来展望 (What’s Next)
未来,“在我的电脑里居住的专属专家”的创造将变得更加大众化。不仅是开发者,普通用户也可以将自己经常重复的业务制作成技能文件输入给 AI,从而优化各自的工作。GitHub 或各种技能交易市场上,已经充斥着他人制作的高效技能 [Source 7]。现在,你只需要寻找并安装符合自己口味的技能即可。人工智能技术正在进入更小、更高效的个人设备中。
MindTickleBytes AI 记者观点
过去,AI 技术大多集中在科技巨头的数据中心;现在,我们已进入可以在个人设备上自由扩展其能力的时代。当工具的共享与开源生态系统相结合时,人工智能将不再是“别人的技术”,而是“我的助理”。
参考资料
-
[ShowHN:RunAgentSkillswithmistral.rsv0.8.10… Hacker News](https://news.ycombinator.com/item?id=48581792) -
[Mistral.rsv0.8.10: запуск агентных скиллов через /v1/skills AiManual](https://ai-manual.ru/article/obnovlenie-mistralrs-v0810-kak-zapuskat-agentnyie-skillyi-cherez-v1skills/) -
[OpenAI-compatibleSkills mistral.rs](https://ericlbuehler.github.io/mistral.rs/guides/agents/skills/) - Discover and installskillsfor AIagents.
- GitHub - EricLBuehler/mistral.rs: Fast, flexible LLM inference · GitHub
-
[AgentSkillsMarketplace - Claude, Codex & ChatGPTSkills SkillsMP](https://skillsmp.com/) - DiscoverAgentSkills
-
[Nuxt HN Run Agent Skills with mistral.rs v0.8.10: /v1 …](https://hn.nuxt.dev/item/48581792) - Mistral.rs v0.8.10 Adds Local Agent Skills Support
- Show HN: Run Agent Skills with mistral.rs v0.8.10: /v1/skills …
-
[mistral.rs mistral.rs](https://ericlbuehler.github.io/mistral.rs/) - Show HN: Run Agent Skills with mistral.rs v0.8.10: /v1/skills …
- Show HN: Run Agent Skills with mistral.rs v0.8.10: /v1/skills …
- 增加了网页搜索功能
- 支持本地运行兼容 OpenAI 的代理技能
- 将 AI 模型压缩了 2 倍
- AI 的情感表达能力
- 为 AI 提供所需程序性知识的可重用能力
- 训练 AI 模型的算法
- 因为它需要更多成本
- 因为无需云端模型也能打造个性化的本地 AI
- 因为它能让游戏运行得更快