藉由 mistral.rs 的最新更新,現在可以在個人電腦上利用開源 AI 模型,無需外部協助即可自由執行名為「代理人技能」的高級工作任務。
想像一下:早上起床後,對個人 AI 助理說:「幫我整理今天的會議資料並寄給我。」過去,助理要完成這項工作,必須透過擁有龐大伺服器的巨型企業雲端 AI 模型才能辦到。但現在,這條讓助理只留在筆記型電腦中、更自由且更聰明地工作的道路已經開啟。隨著近期名為「mistral.rs」的人工智慧執行工具更新,我們已經可以直接教會電腦裡的 AI「專業技能(Skill)」。
這為何重要? (Why It Matters)
過去,若要讓人工智慧執行複雜任務,大多數情況下必須依賴 OpenAI 或 Anthropic 等巨型企業提供的「封閉模型(Closed Model,未經企業許可無法檢視內部的 AI)」。這意味著工作內容必須傳輸到外部伺服器,對於重視安全或個人隱私的使用者來說,是一大顧慮。
然而,透過這次更新,現在即使是在我們設備上直接安裝的「開放模型(Open Model,任何人皆可修改與執行的人工智慧)」,也能執行名為「代理人技能(Agent Skills)」的高階處理技術 [Source 1, Source 10]。這代表在不將資料發送到外部伺服器的情況下,既能嚴格維持安全,又能建立專屬的強力 AI 代理人環境 [Source 9]。
簡單說明 (The Explainer)
「代理人技能」的概念可能有點深奧,讓我們用個比喻來解釋。假設我們聘請了一位非常聰明的新進員工,他雖然基礎智能極高,但不了解公司的複雜文件處理方式或特定軟體用法。此時,我們遞給他一份「業務手冊」,這就是裝備「技能(Skill)」的過程。
簡單來說,代理人技能是詳細告知 AI 如何執行特定任務的「程序性知識」 [Source 4]。最新更新的 mistral.rs 就像是將裝有這些技能的檔案當成拼圖交給 AI,AI 閱讀後即可立即執行該項任務 [Source 3]。由於沿用了既有的 OpenAI 標準技術,現在已經有超過 170 萬個代理人技能,在本地環境中能更容易地活用這些資源 [Source 6]。
當前狀況 (Where We Stand)
維護 mistral.rs 的開發者表示,透過 v0.8.10 的更新,原本受限於特定企業模型的技能,現在已能完全帶入個人的本地設備 [Source 8, Source 13]。使用者只需將技能以壓縮檔形式上傳,或透過目錄結構傳遞即可 [Source 3]。透過像 Gemma 這類的本地開放模型,我們已經達到在不經過巨型企業伺服器的情況下,就能運作專屬專業 AI 助理的境界 [Source 9]。
不過,必須留意處理速度與準確度會根據本地模型的效能及電腦硬體規格而有所差異。畢竟與雲端伺服器龐大的運算能力相比,個人設備仍存在硬體上的限制。
未來展望 (What’s Next)
未來,「打造居住在電腦裡的專屬專家」將變得更加普及。不僅是開發者,一般使用者也能將平時重複的業務製作成技能檔案輸入 AI,進而優化各自的工作。在 GitHub 或各大技能市集中,已經充滿了他人製作的高效技能 [Source 7]。現在,您只需要找到符合需求的技能並安裝即可。人工智慧技術正朝向更小、更有效率的個人設備邁進。
MindTickleBytes AI 記者觀點
過去 AI 技術集中在巨型企業的資料中心,現在則進入了能在個人設備上自由擴展能力的時代。當工具的共享與開源生態系結合時,人工智慧將不再是「別人的技術」,而會成為「我的助理」。
參考資料
-
[ShowHN:RunAgentSkillswithmistral.rsv0.8.10… Hacker News](https://news.ycombinator.com/item?id=48581792) -
[Mistral.rsv0.8.10: запуск агентных скиллов через /v1/skills AiManual](https://ai-manual.ru/article/obnovlenie-mistralrs-v0810-kak-zapuskat-agentnyie-skillyi-cherez-v1skills/) -
[OpenAI-compatibleSkills mistral.rs](https://ericlbuehler.github.io/mistral.rs/guides/agents/skills/) - Discover and installskillsfor AIagents.
- GitHub - EricLBuehler/mistral.rs: Fast, flexible LLM inference · GitHub
-
[AgentSkillsMarketplace - Claude, Codex & ChatGPTSkills SkillsMP](https://skillsmp.com/) - DiscoverAgentSkills
-
[Nuxt HN Run Agent Skills with mistral.rs v0.8.10: /v1 …](https://hn.nuxt.dev/item/48581792) - Mistral.rs v0.8.10 Adds Local Agent Skills Support
- Show HN: Run Agent Skills with mistral.rs v0.8.10: /v1/skills …
-
[mistral.rs mistral.rs](https://ericlbuehler.github.io/mistral.rs/) - Show HN: Run Agent Skills with mistral.rs v0.8.10: /v1/skills …
- Show HN: Run Agent Skills with mistral.rs v0.8.10: /v1/skills …
- 增加網頁搜尋功能
- 支援本地執行與 OpenAI 相容的代理人技能
- 將 AI 模型大小壓縮為兩倍
- AI 的情感表達能力
- 為 AI 提供所需程序性知識的可重複使用能力
- 訓練 AI 模型的演算法
- 因為成本更高
- 因為無需雲端模型即可打造個人化的本地 AI
- 因為可以讓遊戲執行得更快